据报道，人工智能 声音克隆 技术已经在 2024 年选举前搅浑了水。根据新罕布什尔州总检察长办公室周一发布的一份声明，一个在周末部署的电话诈骗活动使用了模仿总统乔·拜登的声音，敦促收听者不要参加该州 1 月 23 日的总统初选。
“周二投票只会助长共和党人再次选举唐纳德·特朗普的企图，”人工智能生成的拜登通过电话告诉居民。“你的投票在 11 月有意义，而不是在这个周二。”
这次虚假信息活动的幕后黑手目前尚不清楚，但前新罕布什尔州民主党主席凯西·沙利文（Kathy Sullivan）通过 NBC News 的初步独家报道称，这“明显是想要伤害乔·拜登的人”所为。
[相关： 深度伪造音频已能欺骗近 25% 的人。]
一个日益严重的问题
包括深度伪造的 音频、视频 和 图像 在内的人工智能生成内容，已成为虚假信息专家日益关注的问题。多份报告警告称，随着 2024 年总统选举的加剧，当今的媒体、互联网和社交环境尚未准备好应对可能即将到来的大量 伪造的“假新闻”内容。伦敦大学学院（University College London）研究人员进行的一项 最新研究 表明，人工智能生成的音频可以欺骗多达四分之一的听众。上传到 YouTube 的 1600 多个视频中出现了泰勒·斯威夫特（Taylor Swift）和史蒂夫·哈维（Steve Harvey）等名人 深度伪造的图像，他们推销“医疗卡”计划和其他骗局，总观看次数超过 1.95 亿次。但与人工智能奥普拉（Oprah）提供的“免费赚钱”骗局不同，最新的声音克隆例子显然是为了影响美国的政治格局。
“可耻，是对民主不可接受的侮辱”
至于这个周末的虚假信息活动，冒充拜登的人错误地声称，在新罕布什尔州初选中写名字支持他的全州运动将损害总统的连任前景。随后，电话诈骗信息以一个与凯西·沙利文（Kathy Sullivan）关联的电话号码结束，导致周日晚上出现了大量的电话，促使这位前新罕布什尔州民主党主席向州总检察长办公室报告了这一情况。
州总检察长办公室在周一的声明中警告说：“这些信息似乎是对新罕布什尔州总统初选进行干扰和压制新罕布什尔州选民的非法企图。” 建议选民忽略该信息，并明确表示：“在新罕布什尔州总统初选中投票并不会妨碍选民在 11 月的大选中额外投票。”
[相关： 警惕 YouTube 上推销虚假“免费钱”的人工智能名人克隆体。]
前总统特朗普竞选团队的代表否认与此次电话诈骗有关。与此同时，众议员迪恩·菲利普斯（Dean Phillips）——一位挑战拜登获得民主党提名的明尼苏达州代表——的发言人称这次骗局“极其令人担忧”。
菲利普斯竞选团队的代表凯蒂·多兰（Katie Dolan）告诉 NBC News：“任何阻止选民投票的行为都是可耻的，也是对民主不可接受的侮辱。”“人工智能被用来操纵选民的潜力是极其令人不安的。”
聊天机器人政治代理人
然而，至少一些菲利普斯的支持者，尽管有相反的警告，仍在拥抱其他人脸书工具的策略。上周末，《华盛顿邮报》报道称，Dean.Bot——一个由支持菲利普斯的超级政治行动委员会（SuperPAC）创建的聊天机器人——已被从 OpenAI 最新推出的在线商店中移除，因为它“故意违反了我们的 API 使用政策，该政策禁止政治竞选活动”。
尽管受到轻微处罚，菲利普斯仍然是硅谷一些顶级人士的宠儿。Dean.Bot 背后的超级政治行动委员会 We Deserve Better 由 OpenAI 联合创始人兼近期被解雇后又复职的首席执行官萨姆·奥特曼（Sam Altman）的前幕僚长共同创立。奥特曼本人也与菲利普斯会面过，尽管他尚未正式认可或捐款给这位议员的竞选活动。
一项正在进行的调查
新罕布什尔州总检察长办公室的声明指出，司法部正在对这次人工智能总统电话诈骗进行调查，并鼓励居民联系选举法律部门，如果他们收到了一条以人工智能拜登说“真是胡说八道”（What a bunch of malarkey）开头的消息。
