据《环球时报》2月8日综合报道，“冒牌拜登来电”“流行歌手虚假色情图片疯传”……最近几周，利用人工智能（AI）工具生成的深度伪造内容带来的风险引起广泛关注，美国白宫呼吁国会和科技公司尽快采取行动。
此前，美国新罕布什尔州选民反映曾接到“拜登总统”的自动留言电话，告诉接听者不要在当地时间1月23日的新罕布什尔州初选中为特朗普投票。据悉，该电话经由深度伪造技术生成，目前电话发起者和覆盖选民人数仍未可知。
2024年是全球选举大年，据不完全统计，2024年全球将有76个国家/地区举行大选，将发生100多场选举活动，覆盖41.7亿人口，占世界总人口的41%，GDP占42%。北美、欧洲、俄罗斯、南亚等地区多个国家都将经历重要的政治选举。
目前，美国大选已经拉开帷幕，而欧盟也将在6月迎来欧洲议会选举。在此背景下，深度伪造技术对选举的影响不仅引发了美国政界人士的担忧，也促使欧盟提前采取措施，防止AI造假影响选举进程。
据悉，为确保即将到来的欧洲议会选举免受虚假信息的影响，大型科技公司很快将被要求必须标识AI生成的内容。欧盟内部市场专员布雷顿2月7日表示，欧盟即将开启的选举将成为被攻击及干预的目标，因此欧盟必须采取周全、完善的措施。不过，他并未说明科技公司何时会被要求标识AI生成的内容。
面对越来越大的压力，部分科技公司已表示将加大对AI生成内容的管理力度。美国Meta公司2月6日称，该公司将推出一种检测并标识AI生成图片的技术，并将应用于该公司旗下Facebook、Instagram和Threads社交平台，为AI生成图片“打上标签”。不过，Meta公司也表示，该技术暂不适用于视频及音频。
Meta公司高级主管克莱格在接受采访时承认该技术“尚未完全成熟”，但他表示，Meta公司希望能够借由此项技术的推出“创造一种势头”，并“鼓励行业内其他企业跟进”。
