人工智能生成的“深度伪造”内容充斥互联网，有时会带来危险的后果。仅在过去一年里，人工智能就被用来制造欺骗性的前美国总统语音克隆，并传播描绘儿童在自然灾害中的虚假、充满政治色彩的图像。与此同时，未经同意的、人工智能生成的色情图像和视频正在造成创伤，影响范围从高中生到泰勒·斯威夫特。微软（Microsoft）和Meta（Meta）等大型科技公司已做出一些努力来识别人工智能操纵的实例，但收效甚微。现在，各国政府正介入，试图用他们很熟悉的方式来遏制这种趋势：罚款。
本周，西班牙议员推进了新立法，如果公司未能正确标记人工智能生成的内容，将面临高达3820万美元的罚款，或其全球年营业额的2%至7%的罚款。法案签署后数小时内，南达科他州议员迅速推进了自己的立法，试图对旨在影响政治竞选的深度伪造内容进行传播的个人和团体施加民事和刑事处罚。如果获得通过，南达科他州将成为自2019年以来第11个通过使深度伪造行为刑事化的州。所有这些法律都利用了可能耗尽银行账户的威胁作为执行手段。
据《路透社》报道，西班牙的法案遵循了更广泛的《欧盟人工智能法案》的指导方针，该法案已于去年正式生效。具体而言，该法案旨在为《人工智能法案》中对被视为“高风险”的某些人工智能工具施加更严格的透明度要求的规定增加惩罚性手段。深度伪造就属于此类。未能正确标记人工智能生成的内容将被视为“严重违法”。
西班牙数字转型大臣奥斯卡·洛佩斯（Oscar Lopez）在发送给《路透社》的声明中表示：“人工智能是一种非常强大的工具，可以用来改善我们的生活……或者传播错误信息。”
除了关于深度伪造标记的规定外，该立法还禁止对被归类为弱势的某些群体使用所谓的“潜意识技术”。它还将对试图使用生物识别工具（如面部识别）来推断个人种族、政治、宗教或性取向的组织施加新的限制。该法案仍需获得西班牙下议院的批准才能成为法律。如果获得通过，西班牙将成为欧盟第一个颁布执行《人工智能法案》关于深度伪造指导方针的立法的国家。它还可以作为其他国家效仿的模板。
美国少数几个州正在牵头进行深度伪造执法
相比之下，新提出的南达科他州法案则更为具体。它要求个人或组织在政治性质的深度伪造内容在选举前90天内创建或传播时，对其进行标记。本周获得通过的版本包括对报纸、广播公司和广播电台的豁免，此前它们据报道曾表达了担忧，担心可能因无意中传播深度伪造内容而承担法律责任。该法案还包括对“构成讽刺或模仿”的深度伪造的例外条款，这是一个可能范围广泛且难以界定的豁免。
尽管如此，即使有所稀释，南达科他州的法案仍是旨在遏制深度伪造传播的州法律日益增多的拼凑中的最新一员。德克萨斯州、新墨西哥州、印第安纳州和俄勒冈州都已颁布了专门针对旨在影响政治竞选的深度伪造内容的立法。许多此类努力在2024年获得了动力，当时一个人工智能生成的、总统乔·拜登的“数字克隆”声音给新罕布什尔州的选民打去电话，敦促他们不要参加该州的总统初选。据报道，拜登的伪造信息是由史蒂夫·克莱默（Steve Kramer）委托制作的，他当时是一名政治顾问，为竞争对手总统候选人迪恩·菲利普斯（Dean Phillips）的竞选团队工作。菲利普斯后来谴责了深度伪造，并声称对此不负责。与此同时，联邦通信委员会（FCC）向克莱默处以600万美元的罚款，指控他违反了《电话身份真实法案》。
新罕布什尔州总检察长约翰·福尔梅拉（John Formella）在一份声明中表示：“我预计FCC的执法行动将向任何可能考虑干预选举的人发出强烈的威慑信号，无论是通过非法电话、人工智能还是任何其他手段。”
四个州——佛罗里达州（Florida）、路易斯安那州（Louisiana）、华盛顿州（Washington）和密西西比州（Mississippi）——已经颁布了将未经同意的、人工智能生成的性内容定为刑事犯罪的法律。这类材料，有时被称为“报复性色情”内容（当针对个人时），是目前已广泛传播的有害深度伪造内容中最常见的一种。一位在2023年接受《连线》杂志采访的独立研究者估计，在过去七年里，有244,625部深度伪造色情视频被上传到排名前35位的深度伪造色情网站。其中近一半的视频是在该时期最后九个月上传的。
上传量的激增表明，更容易使用、更具说服力的人工智能生成工具，加上缺乏有意义的保障措施，使得未经同意的深度伪造内容更加普遍。立法者也对此问题有切身利益。美国阳光项目（ASP）去年发布的一项研究发现，国会中每六名女性中就有一人曾成为人工智能生成的性深度伪造的受害者。
在联邦层面遏制深度伪造的努力进展缓慢，尽管这种情况可能即将改变。本月早些时候，第一夫人梅拉尼娅·特朗普（Melania Trump）公开支持“立即删除法案”（Take It Down Act），这是一项颇具争议的法案，将把在社交媒体平台上发布未经同意的亲密图像（NCII）定为联邦罪行。如果获得通过，该法案还将要求平台在接到举报后48小时内删除NCII内容及其所有副本。该法案已获得参议院通过，并可能在未来几周或几个月内提交众议院进行投票。
梅拉尼娅·特朗普表示：“看到年轻的青少年，尤其是女孩，在应对恶意在线内容（如深度伪造）的巨大挑战时，我感到心痛。” “这种有毒的环境会造成严重的损害。”
反深度伪造法律的持续存在的问题
尽管限制深度伪造的目标是值得称赞的，但批评者担心，一些正在推行的法律和法案有些过于激进。电子前线基金会（EFF）多年来一直警告说，在几项针对政治深度伪造的州法律中使用的过于宽泛的措辞可能被恶意行为者操纵，将仅仅使用戏剧性音乐或拼凑真实视频片段、并被认为对候选人不利的广告定为刑事犯罪。EFF还对“立即删除法案”及其类似法案提出异议，认为这些法案制造了虚假标记合法言论为未经同意的深度伪造的动机，以达到审查的目的。
EFF高级政策分析师乔·穆林（Joe Mullin）表示：“虽然保护这些令人发指的侵犯隐私行为的受害者是一个合法的目标，但仅仅良好的意图不足以制定出好的政策。”
2025年初可能标志着全球打击人工智能生成深度伪造的努力的转折点。欧洲更多国家可能会效仿西班牙的模式，提出新的立法，将深度伪造的创建或传播定为刑事犯罪。尽管这些法律的具体细节可能有所不同，但它们在一定程度上都遵循了《欧盟人工智能法案》确立的根本框架。
与此同时，美国正濒临通过其首个禁止深度伪造的联邦法案。然而，在所有这些情况下，立法者能否有效运用这些新的法律工具还有待观察。那些受法律制约的、资金雄厚的科技公司和政治活动家很可能会提起法律挑战，这会耗尽政府资源。这些可能的漫长法律诉讼的最终结果，将决定深度伪造法律是否能在不剥夺言论自由的前提下，真正实现其预期目标。
