在线诈骗者正在使用AI语音克隆技术，在YouTube上冒充史蒂夫·哈维和泰勒·斯威夫特等名人，诱骗粉丝上当受骗，相信与医疗福利相关的骗局。404 Media本周率先报道了这一趋势。这些只是诈骗者利用日益普及的生成式AI工具来针对往往经济贫困的社区并冒充名人快速获利的最新案例。
404 Media收到一位爆料人的联系，该爆料人向该媒体提供了1600多个YouTube视频，其中深度伪造的名人语音（以及非名人的语音）都在推广这些骗局。据报道，这些视频（其中许多在撰写本文时仍然活跃）已获得了1.95亿次观看。这些视频似乎违反了YouTube的几项政策，特别是关于虚假陈述和垃圾邮件和欺骗性行为的政策。YouTube尚未立即回应PopSci的置评请求。
骗局是如何运作的？
诈骗者试图通过剪辑名人片段，并使用AI工具制作模仿名人声音的配音来欺骗观众。《家庭财富》主持人史蒂夫·哈维，奥普拉，泰勒·斯威夫特，播客乔·罗根，以及喜剧演员凯文·哈特，他们都出现了深度伪造的语音版本来推广骗局。其中一些视频根本不使用名人深度伪造，而是使用一组固定的真人演员来讲述不同版本的类似故事。这些视频通常由名称误导的YouTube账号发布，如“USReliefGuide”、“ReliefConnection”和“Health Market Navigators”。
“我好几个月都在告诉你们，赶紧领取这6400美元，”一个试图冒充《家庭财富》主持人史蒂夫·哈维的深度伪造克隆体说道。“即使你没有工作，任何人都能拿到！”仅此一个视频，在撰写本文时仍在YouTube上，就已经获得了超过1800万次观看。
尽管骗局的具体措辞因视频而异，但它们通常遵循一个基本模板。首先，深度伪造的名人或演员会提醒观众，美国政府正在通过“健康支出卡”发放一笔6400美元的年底节日刺激支票。然后，名人声音会说，只要不是已经参加了Medicare或Medicaid的人，任何人都可以申请这项刺激措施。之后，观众通常会被指示点击链接申请福利。与许多有效的骗局一样，该视频还通过试图说服观众该虚假交易不会持续太久来制造紧迫感。
实际上，点击这些链接的受害者通常会被重定向到名称为“secretsavingsusa.com”的URL，这些URL实际上并未与美国政府有关联。PolitiFact的记者拨打了其中一个网站上的注册电话，并与一位“身份不明的代理人”进行了交谈，对方询问了他们的收入、报税状况和出生日期；所有这些敏感的个人数据都可能被用于身份欺诈。据报道，在某些情况下，诈骗者还会要求提供信用卡号。该骗局似乎利用人们对真实的政府健康税收抵免的混淆作为诱饵来吸引受害者。
确实存在许多政府项目和补贴来帮助有需要的人，但来自美国政府的“免费资金”的笼统说法通常是一个危险信号。降低能够创建看似令人信服的名人声音模仿的生成式AI技术的成本，会使这些骗局更具说服力。美国联邦贸易委员会（FTC）在去年的博客文章中警告了这种可能性，其中列举了诈骗者利用深度伪造和语音克隆进行勒索和金融欺诈等非法活动的简单例子。最近由PLOS One在去年进行的一项调查发现，深度伪造音频已经能够欺骗人类听众近25%的时间。
FTC拒绝对最近这一系列名人深度伪造骗局置评。
价格实惠、易于使用的AI技术引发了名人深度伪造诈骗的激增
这并非名人深度伪造诈骗的首次出现，而且几乎可以肯定不会是最后一次。好莱坞传奇人物汤姆·汉克斯最近在Instagram上向他的粉丝道歉，因为有人发现一个深度伪造的“分身”在推广一个牙科保险骗局。不久之后，CBS主播盖尔·金说，诈骗者正在使用类似的深度伪造方法，使其看起来好像她在代言一种减肥产品。最近，据报道，诈骗者将流行歌星泰勒·斯威夫特的AI克隆语音与她使用Le Creuset炊具的真实图片相结合，试图说服观众注册参加厨房用具赠品活动。粉丝们从未收到这些闪亮的锅和锅。
立法者们正争先恐后地起草新法律或澄清现有立法，以试图解决日益严重的问题。几项法案草案，如《深度伪造问责法》和《无伪造法》，将赋予个人更多控制其数字肖像的权利。就在本周，一个由五名众议院议员组成的跨党派小组推出了《无AI欺诈法》，该法案试图建立一个联邦框架来保护个人对其数字肖像的权利，并特别关注艺术家和表演者。然而，在大量新近仓促制定的AI立法涌入国会的情况下，这些法案能否通过尚不清楚。
更新 2023年1月11日 上午8:49：YouTube发言人回复PopSci的声明：“我们正在不断努力改进我们的执法系统，以保持在最新趋势和诈骗策略的前沿，并确保我们能够快速响应新兴威胁。我们正在审查与我们共享的视频和广告，并已因违反我们的政策而删除了几个，并对相关账号采取了适当行动。”
