深度伪造技术已经 证明了自己 是传播虚假信息的一个令人不安的有效手段，但一项新研究表明，生成式人工智能程序的影响可能比最初担心的更复杂。根据本月早些时候发表在 PLOS One 上的研究结果，深度伪造的视频片段会改变 观众过去的记忆，以及他们对事件的 看法。
为了测试这些伪造品的有效性，爱尔兰大学学院科克的（University College Cork）研究人员邀请了近 440 人观看深度伪造的电影片段，这些片段来自对电影的虚构翻拍，例如威尔·史密斯出演的《黑客帝国》，克里斯·帕拉特饰演的印第安纳·琼斯，布拉德·皮特和安吉丽娜·朱莉主演的《闪灵》，以及查理兹·塞隆代替布丽·拉尔森出演的《惊奇队长》。然后，参与者观看了真实翻拍的电影片段，如《查理和巧克力工厂》、《全面回忆》和《嘉莉》。同时，一些志愿者还获得了关于这些不存在的翻拍电影的文字描述。
[相关：这个虚构的新闻节目完全由人工智能和深度伪造制作。]
在回顾时，近 50% 的参与者声称记得这些深度伪造的翻拍电影曾在影院上映。其中，许多人认为这些虚构的电影实际上比原版“更好”。但无论这些数字多么令人不安，使用深度伪造来误导过去似乎并不比仅仅阅读虚构电影的文字摘要更有效。
周五，在接受 The Daily Beast 采访时，虚假信息研究员兼该研究的主要作者吉莉安·墨菲（Gillian Murphy）并不认为研究结果“特别令人担忧”，因为它们并未表明深度伪造比现有的虚假信息传播方法构成“独特的强大威胁”。即便如此，她也承认，如果深度伪造能够病毒式传播，或者在很长一段时间内令人难忘，那么它们在传播虚假信息方面可能会更有效。
这些恶意深度伪造潜在成功的关键因素是所谓的 动机性推理——即人们 无意中允许 先入之见和偏见影响其 现实感知 的倾向。如果向某人展示了支持其现有信念的所谓证据，那么这个人更有可能不加过多审视地接受该证据。因此，如果一个深度伪造视频符合你的社会政治倾向，你更有可能相信它，而如果它似乎“反驳”了你的观点，你则可能更加怀疑。
[相关：深度伪造可能使用了新技术，但其思想根源很老。]
动机性推理本身就够糟糕的了，但如果人们意识不到这些问题，深度伪造很容易加剧这种普遍存在的逻辑谬误。提高公众的媒体素养和批判性推理能力是确保人们将威尔·史密斯主演的《黑客帝国》记住为一部有趣的“如果……怎么样？”（What If?）的电影，而不是事实的关键因素。至于这样的项目是否会比原作更好——就像许多深度伪造一样，这取决于你的看法。
