尽管反复遭到沮丧的法官的反对，人们仍然无法停止在法律诉讼中使用生成式 AI 工具。虽然 AI 最初是通过虚假的“幻觉”案件出现在法庭上，但这一趋势已经转向——这得益于日益复杂的 AI 视频和音频工具。在某些情况下，AI 甚至被用来让受害者“复活”。
本周，一名犯罪受害者的家人在亚利桑那州法庭上播放了一段简短视频，其中描绘了 37 岁的克里斯·佩尔基的 AI 版本。佩尔基于 2021 年在一场路怒事件中被枪杀。如今，四年后，AI 生成的“克隆体”似乎在法庭上向其所谓的杀人犯喊话。这段视频由当地媒体 ABC15 首次报道，据称是第一个使用生成式 AI 深度伪造作为受害者影响陈述的已知案例。
“致加布里埃尔·霍卡西塔斯，那个开枪打我的人，真可耻我们那天会在那种情况下遇到。”AI 版本的佩尔基在视频中说。“在另一段生命里，我们也许可以成为朋友。”
视频显示，佩尔基的 AI 版本——一个魁梧、留着胡子的陆军老兵——穿着一件绿色连帽衫和一顶灰色棒球帽。据报道，佩尔基的家人通过训练一个 AI 模型来制作这段视频，模型使用了佩尔基的各种片段。然后应用了一个“老年”滤镜来模拟佩尔基现在的样子。最终，法官判处霍卡西塔斯 10.5 年监禁，罪名为过失杀人，他表示，这一判决至少部分受到了 AI 生成的影响陈述的影响。
“这是我能给你的关于如果我能活到老我会是什么样子的最好的样子，”佩尔基的深度伪造说道。“记住，变老是一种不是每个人都能拥有的礼物，所以要拥抱它，别再担心那些皱纹了。”
一名纽约男子使用深度伪造 AI 来帮助辩护
AI 生成的影响陈述是在一个月前，纽约州法院的一名被告，74 岁的杰罗姆·杜瓦尔德，使用深度伪造视频协助进行自身法律辩护之后出现的。当杜瓦尔德因与前雇主的合同纠纷出庭时，他播放了一段视频，视频中一个穿着毛衣和蓝色衬衫的男人直视着镜头。法官对视频感到困惑，问杜瓦尔德屏幕上的人是他律师吗？实际上，那是一个 AI 生成的深度伪造。
“那是我生成的，”杜瓦尔德据《纽约时报》报道。“那不是真人。”
法官并不高兴，并训斥杜瓦尔德未能披露他使用了 AI 软件来协助辩护。在听证会后接受《纽约时报》采访时，杜瓦尔德声称他无意误导法庭，而是使用 AI 工具来更清晰地阐述他的辩护。他说他最初打算让深度伪造看起来像他自己，但在遇到技术困难后，他更换成了法庭上看到的版本。
“我的意图从来不是欺骗，而是以最有效的方式提出我的论点，”杜瓦尔德据称在一封致法官的信中说道。
AI 模型曾“幻觉”出虚假法律案件
这两个案例代表了生成式 AI 渗透到法庭的最新例子，这一趋势在几年前随着公众对 OpenAI 的 ChatGPT 等热门聊天机器人兴趣的激增而开始获得关注。据报道，全国各地的律师都使用这些大型语言模型来帮助起草法律文件和收集信息。这导致了一些令人尴尬的情况，即模型“幻觉”出完全虚构的案件名称和事实，并最终进入法律程序。
2023 年，纽约的两名律师因提交了一份包含 ChatGPT 生成的六个虚假案件引用的简报而被法官处罚。据报道，唐纳德·特朗普的前私人律师迈克尔·科恩向他的律师发送了虚假的 AI 生成案件，这些案件最终被提交给联邦法官。科罗拉多州的一名律师在据称提交了 AI 生成的法律案件后被暂停执业。OpenAI 甚至被一名佐治亚州的电台主持人起诉，该主持人声称 ChatGPT 的回复指控他参与了一起他毫不知情的真实挪用公款案件。
为法庭上更多的 AI 做好准备
尽管法院惩罚了那些以欺骗方式使用 AI 的律师和被告，但关于何时可以使用这些工具的规则仍然模糊不清。就在上周，一个联邦司法委员会以 8-1 的投票结果寻求公众意见，关于一项旨在确保 AI 辅助证据达到与人类专家证人提交证据相同标准的草案规则。最高法院首席大法官约翰·罗伯茨也在他的2023 年年度报告中讨论了这个问题，他指出了允许更多生成式 AI 进入法庭的潜在好处和坏处。他指出，一方面，AI 可以让经济资源有限的人更容易为自己辩护。与此同时，他警告说，这项技术存在“侵犯隐私和使法律非人化的风险”。
有一点是确定的：我们还没有看到法庭上 AI 深度伪造的最后一次出现。
