加州州长加文·纽森(Gavin Newsom)于2024年9月17日签署了五项AI相关新法律，标志着加州在应对AI技术发展及其潜在威胁方面走在全球前列。这些法规旨在加强对美国选举虚假信息和影视行业AI克隆行为的监管，是加州通过法律手段规避AI技术风险的关键一步。
三项新法律主要针对AI生成的选举深度伪造(Deepfake)：
《AB 2655法案》：要求Facebook和X(前身为Twitter)等大型社交媒体平台删除或标记选举相关的AI生成内容，并为用户提供举报渠道。候选人和政府官员可申请强制令，防止AI深度伪造干扰选举。
《AB 2839法案》：作为紧急措施即时生效，扩大了禁止故意分发欺骗性AI生成选举材料的时间范围。
《AB 2355法案》：要求所有与选举相关的AI生成广告必须明确标注，防止误导性信息传播。这将禁止如泰勒·斯威夫特(Taylor Swift)被AI虚假视频误传为支持特定候选人的行为。
另外，针对好莱坞影视行业的AI克隆行为，纽森签署了两项法案：
《AB 2602法案》：要求影视公司在生成演员的AI克隆形象或声音前，必须获得明确同意。将于2025年1月1日生效。
《AB 1836法案》：规定使用已故演员的AI克隆形象时，必须得到遗产管理人的许可，防止未经授权的商业用途。
这两项法案的适用范围广泛，涵盖电影、电视、电子游戏、广告、有声书等多个领域。美国电影广播演员工会(SAG-AFTRA)主席弗兰·德雷舍(Fran Drescher)对这些法案表示支持，称其为"SAG-AFTRA会员和所有人的重要胜利"。
尽管大部分法律受到欢迎，《SB 1047法案》却引发了不小争议。该法案旨在防止AI技术带来的大规模灾难，特别是针对关键基础设施的攻击或造成重大经济损失的风险。然而，包括开源社区在内的许多AI公司担心此法案可能抑制技术创新。
在旧金山Dreamforce会议上，纽森表示《SB 1047法案》可能对开源社区产生"寒蝉效应"，阻碍技术进步。他强调，法律应关注"实际风险"而非"假设风险"，最终决定将在创新与安全之间取得平衡。纽森表示："我们必须考虑AI的可证实风险与假设风险。我不能解决所有问题。我们能解决什么?"
作为全球AI产业重地，加州此次出台的法案将对全球AI监管产生深远影响。加州拥有32家全球50强AI公司，是高影响力研究和教育机构的所在地，拥有该技术四分之一的专利和会议论文。这些法案不仅强化了加州在全球AI监管中的领导地位，同时为应对技术带来的潜在风险提供了法律框架。
随着AI技术的快速发展，如何在创新与监管之间找到平衡点，成为各国政府面临的共同挑战。孙斯陶认为，加州此次推出的一系列法案，为全球AI治理提供了宝贵经验，也将成为其他地区制定相关政策的重要参考。
