上周，在 CNN 对唐纳德·特朗普进行 《城镇大厅》直播后不久，这位前总统的儿子在推特上发布了一个明显被篡改的 9 秒视频剪辑，其中包含 CNN 主持人安德森·库珀的 AI 生成的模仿声音，对这位前总统的城镇大厅表现给予了 粗俗的赞美。“我听说这是真的……”，小唐纳德·特朗普写道。“它看起来是真的，而且对于 CNN 来说，这坦率得令人惊讶，非常诚实和准确……但现在谁知道呢。”
尽管 Twitter 社区笔记将该视频标记为假新闻，但一位评论者回复说：“无论真假，这都是一样的真相。”
两天后，特朗普将同一段修改过的视频重新发布到了他支持者偏爱的社交媒体平台 Truth Social。Truth Social，尽管 Twitter 和 Truth Social 上的许多回复似乎表明用户大多知道这是一个笨拙的模仿，但专家警告说，特朗普最近多次拥抱 AI 生成内容的行为，可能会在他明年竞选总统的过程中制造混乱和困惑。
[相关：“这个虚构的新闻节目完全由 AI 和深度伪造制作” ]
“为了利润和政治操纵现实，不仅会侵蚀健康的社会，也表明特朗普对自己的支持者极其不尊重，更不用说其他人了，”加州理工州立大学伦理与新兴科学小组主任、哲学教授帕特里克·林 (Patrick Lin) 告诉《大众科学》。林说：“他会宣扬如此多的假新闻，同时又指责那些报道真实事实的人也在这样做，这真是太讽刺了。”
而且，根据本周三《彭博社》的报道，在过去一年里，多家深度伪造制作工作室已累计获得了数十亿美元的投资，显示出 AI 内容的势头丝毫没有减弱的迹象。
在特朗普发布了自己祈祷时跪着的 AI 生成图像还不到一个月后，共和党全国委员会发布了一个 30 秒的广告，其中包含 AI 创建的美国若拜登总统连任将会陷入反乌托邦的图像。
网络安全公司 ZeroFox 的情报副总裁 A.J. Nash 在周末告诉《美联社》，关于音频和视频深度伪造的兴起，“我们还没有做好准备。”他说：“当你可以大规模地做到这一点，并在社交平台上进行传播时，这将会产生重大影响。”
林认为，一位前总统传播 AI 篡改的视频，即使是出于开玩笑的目的，也是一个重大担忧，并且“应该敲响警钟，表明我们需要立即对 AI 进行监管。”对他来说，近期关于 AI 对人类理论上生存威胁的高调报道，分散了人们对当今生成式 AI “从歧视到虚假信息”的“明确而存在的危险”的注意力。
更正 05/19/23：本文早期版本错误地将 A.J. Nash 的评论归于 PBS 的采访，而非《美联社》的采访。
