新加坡国会10月15日三读通过《选举(维护网络广告诚信)法令》。这项法律禁止在选举期间使用“深度伪造”(deepfake,即使用人工智能生成的技术将个人的声音、面部表情及身体动作拼接合成虚假内容)和其他数字技术制作有关候选人的广告内容。
据新加坡亚洲新闻台(CNA)15日报道,新加坡数码发展及新闻部上月提出了这项法案。法案适用于选举期间发布的广告内容。根据法案,选举期间,各方禁止发布由数字技术生成或操纵的涉及候选人的“逼真”内容,例如“以真实的方式描绘了”候选人“没有说过、没有做过”的事。
法案严格规定了四个前提条件:该内容是在线选举广告,其目的是促进、促成或损害政党或候选人的选情;内容由数字技术生成或操纵;内容描述了候选人说了或做了他没有说过或做过的事情;内容足够真实,影响到一些看到或听到内容的公众对事件的认知。
如果有关“深伪”内容同时满足所有四个条件,并在选举令状发出至投票结束期间发布,则发布以及分享或转发该内容将构成刑事犯罪。新加坡数码发展及新闻部此前还表示,美颜滤镜等细微修改不会涵盖在内,因为它们与“候选人所做或所说的事情”无关。制作动画人物、卡通,以及“不现实的娱乐内容”和模因(表情包)也被排除在外。
据新加坡《联合早报》15日报道,数码发展及新闻部部长杨莉明在提呈法案时就法案的具体使用条件做了说明。杨莉明认为,尽管非选举期间的“深伪”内容的传播力和影响力可能会影响到选举,但政府无法做到过早介入。“如果我们要有效地维护选举的诚信,那么法案中的保护措施必须适用于选举活动最密集、捣乱者最活跃的时候。这通常是选举期间……从选举令状的颁布开始,到投票结束后终止。”
此外,新加坡资讯通信媒体发展局将会实施行为守则,全天候应对经数码技术窜改的内容,而不只局限于选举期间。这也意味着,社交平台从业者在应对“深伪”内容上要扮演更重要的角色。
杨莉明15日在新加坡国会应答质询时表示,新法无意监管私人谈话内容。她表示,选举官员在判断谈话内容是否属于私人性质时,会考虑多方面因素,包括新加坡有多少人能接触到相关内容、聊天群组是否公开、群组成员之间的关系等。根据法案,选举官有权向任何人,包括社交平台发出更正指示,要他们移除“深伪”内容,或禁止身在新加坡的用户接触这些内容,又或是停止或减少内容的数码传输活动。
新加坡政坛曾多次遭到“深伪”技术的冲击和影响。今年6月,新加坡国务资政、前总理李显龙的国庆献词视频被篡改,网上再次出现关于李显龙推销投资产品的诈骗视频。李显龙当时感慨,人工智能和“深伪”技术日臻完善,他的声音被叠加到国庆献词视频上,嘴形动作被修改至和音频同步。7月,李显龙再度警告新加坡公众,网上出现了许多以他的名义点评地缘政治和国际局势的“深伪”视频。
CNA报道称,新加坡国会通过新法案恰逢各国选举季的“深伪”事件愈发频繁。今年1月,美国总统拜登的伪造声音出现在网上,“发声”阻止民主党人参加新罕布什尔州总统初选。去年斯洛伐克议会选举期间,一段政客讨论选举舞弊的“深伪”音频被发布到网上并疯传,尽管涉事候选人早些时候在民调中领先,但后来还是输掉了选举。
杨莉明15日在国会上说,“人工智能生成的错误信息”可能会严重威胁民主基础。在播放了一段涉及自己的由人工智能生成的38 秒视频后,她说:“如果你刚刚观看的深度伪造视频还没有让你相信它是在模仿我,那么更高级的版本很快就会让你相信。”