深度伪造（Deepfakes）可能很有趣。将金·凯瑞完美地插入到《闪灵》中杰克·尼科尔森角色的视频，曾经带来了无尽的娱乐。然而，随着即将到来的美国大选日益临近，分析人士预计深度伪造可能会在海量虚假信息中扮演一定的角色，这些虚假信息正涌向潜在选民。
本周，微软宣布推出一款名为Video Authenticator的新软件。该软件旨在自动分析视频，以确定算法是否篡改了素材。
该软件实时分析视频，并逐帧分解。从某种程度上说，它的工作原理类似于熟悉的摄影取证技术。它会寻找边缘的不一致之处，这可能表现为颜色细微的变化或缺乏颜色信息的微小像素簇（称为伪影）。你很难用肉眼注意到它们，尤其是在每秒有几十帧画面飞速闪过的情况下。
随着软件进行分析，它会输出一个百分比或置信分数，以表明它对图像真实性的把握程度。目前，使用现代人工智能技术伪造单个帧相对简单，但运动引入了一个额外的挑战级别，而这通常是软件可以获取线索的地方。
研究表明，当人物侧面出现、快速转动超过45度，或者另一个物体快速地从人脸前经过时，通常会发生错误。虽然这些情况在现实世界中相对常见，但在候选人演讲或视频通话中却很少发生，而这正是选举季的热门目标。
为了训练 Video Authenticator，微软依赖于FaceForensics++数据集——这是一个专门用于帮助人们和机器识别深度伪造的操纵媒体集合。它包含来自1000个视频的150万张图像。构建完成后，微软在Facebook AI创建的DeepFake Detection Challenge Dataset上测试了该软件，该数据集是作为构建自动检测工具竞赛的一部分而创建的。Facebook支付了3,426名演员出演了100,000多个视频片段，这些片段通过各种技术进行了修改，包括从深度学习方法到简单的数字换脸。
Facebook的挑战赛于今年早些时候结束，获胜者能够82%的准确率识别出深度伪造。该公司表示，它已经在内部使用工具来嗅探深度伪造，但尚未公开披露其平台上有多少深度伪造。
目前，普通用户无法访问微软的 Video Authenticator。它将仅作为AI基金会AI Foundation的Reality Defender 2020计划的一部分提供，该计划允许候选人、媒体、竞选团队、政党和社会媒体平台提供疑似虚假媒体进行认证。但未来，这些工具可能会向公众提供。
另一家大型科技公司——谷歌——一直在努力开发检测换脸的方法；去年，它聘请了演员，并利用与Facebook方法类似的付费演员构建了自己的数据集。虽然谷歌没有为普通用户提供具体的深度伪造检测网站的公开计划，但它已经在其图片搜索功能中实现了一些图像处理工具，这通常是尝试找出照片是否伪造的第一步。
微软没有分享其AI驱动工具的成功率的具体数字，但当审视表现最佳的参与者时，基准并不算很高。Facebook挑战赛的获胜者在熟悉的数据上取得了82%的成功率——一旦将其应用于真实世界中变量较少的新片段，其准确率就下降到60%左右。加拿大公司Dessa在处理谷歌制作的、变量受控的视频时取得了类似的成功。然而，在处理来自网络其他地方的视频时，它难以达到60%的成功率。
我们仍然不知道深度伪造在2020年大选中将扮演多大的角色，而且由于社交媒体平台正在进行自己的幕后检测，我们可能永远不会知道它本可以有多糟糕。也许到了下一次选举，计算机就能更好地识别其他自动操纵者的作品了。
