一项周一提交给佐治亚州法院的诉讼声称，ChatGPT通过不准确地声称一名佐治亚州电台主持人被指控欺诈和侵吞第二修正案基金会（SAF）的资金，对他构成了诽谤。
该主持人Mark Walters在格温内特县高等法院起诉人工智能公司OpenAI，声称该公司的大型语言模型ChatGPT所发表的言论“虚假且恶意”。诉讼文件中称，该聊天机器人还声称Walters是该基金会的财务主管和首席财务官，而实际上他“与SAF没有任何雇佣或官方关系”。
据Gizmodo报道，这是“首例此类诽谤诉讼”，尽管ChatGPT“产生幻觉”并给出可疑和不准确的个人信息的情况已有很多。例如，今年早些时候，ChatGPT错误地声称法学教授Jonathan Turley被一名学生指控性骚扰。
在Walters的案例中，枪支记者Fredy Riehl要求ChatGPT总结一个最近的真实诉讼《第二修正案基金会》（SAF）诉Robert Ferguson案。在Riehl向ChatGPT提供案件链接后，ChatGPT生成了一份回应，其中包含对Walters的指控描述，包括侵吞、挪用资金和操纵财务记录。Upon fact-checking the accusations, Reihl “confirmed that they were false,” the lawsuit says. 在对这些指控进行事实核查后，Reihl“确认它们是虚假的”，诉讼文件中写道。当被质问时，ChatGPT重复并扩大了这些指控，甚至提供了一个“附件1”，该附件“完全是虚构的，与实际的起诉书没有任何相似之处，包括一个错误的案件编号。” Walters并未在《第二修正案基金会》（SAF）诉Robert Ferguson案中被提及，该案甚至不是关于财务会计索赔的。“这次事件中最让我震惊的是细节程度，包括我熟悉的人名、律师事务所和组织名，”Riehl周三告诉PopSci。“这让我开始质疑我所认为的对他们的了解。”
Walters现在寻求在审判中确定的未具体说明的损害赔偿，以及法院和陪审团决定的任何其他救济。法律专家告诉Gizmodo，此案的具体结果尚不确定，因为Walters必须证明OpenAI知道该信息是虚假的，或对其真实性有鲁莽的忽视，以及“实际恶意”，才能认定ChatGPT的行为构成诽谤。ChatGPT本身没有意识，OpenAI及类似公司提供免责声明，说明其生成式AI可能提供不准确的结果。然而，“这些免责声明不会保护他们免受法律责任，”佛罗里达大学法学院美国宪法学的Raymond & Miriam Ehrlich主席Lyrissa Lidsky告诉PopSci。Lidsky认为，即将到来的针对科技公司及其生成式AI产品的法律诉讼浪潮是一个“严重的问题”，法院将不得不面对。
在Lidsky看来，ChatGPT等AI的设计者试图两全其美。“他们说，‘哦，你不能总是依赖这些搜索结果’，但同时又宣传它们越来越好，”她解释道。“否则，如果它们完全不可靠，它们存在的意义是什么？”她认为，这就存在法律责任的可能性。
Lidsky认为，从诽谤律师的角度来看，最“令人不安”的方面是AI反复表现出完全编造来源的倾向。她表示，虽然诽谤案件通常基于人类故意或无意地说了关于某人的谎言，但一个非人类发言者的责任带来了其自身的挑战。
Lidsky认为，对于这个日益严重的问题没有简单的解决方案，但最终可能需要立法机构做出“深思熟虑的回应”。她提出了一种可能性，即为那些声明不对AI生成的诽谤负责的公司提供法律保护，前提是它们在得知虚假指控后立即采取措施纠正。然而，Lidsky认为政治人物不太可能“敏感地回应”这些困境，因为这些困境涉及大量关于大型语言模型和诽谤法先例的技术知识。
“一方面，我们希望促进创新，另一方面，你却推出一个会捏造关于人们的谎言并可能伤害到他们的工具，”Lidsky说。“你如何平衡方程式的两边？”
PopSci已联系Walters和OpenAI寻求评论，一旦收到回复将更新本文。
