如果您最近接到一个声称是您当地国会代表的陌生号码打来的语音留言，那很可能是一个骗局。美国联邦调查局（FBI）犯罪部门本周发出警告，称有一种新的骗局，不法分子利用短信和AI 生成的语音模仿来冒充政府官员。骗子试图与目标建立联系，并最终说服他们点击一个会窃取重要登录凭证的恶意链接。这个骗局只是利用令人信服的生成式 AI 技术来欺骗人们的一系列不断演变的攻击中的最新一起。
“如果您收到声称来自美国高级官员的消息，请不要认为它是真实的，”FBI 的犯罪警报中写道。
骗局是如何运作的
政府官员表示，该骗局大约始于今年 4 月。攻击者要么发送短信，要么使用 AI 生成的语音模仿技术来冒充政府雇员。该警报指出，许多受害者是官员或与政府官员关系密切的人。近年来，AI 技术发展迅速，一些系统在分析了几分钟甚至几秒钟的语音录音后，就能生成令人信服的模仿。公众人物——其中许多人经常发表演讲或声明——特别容易受到语音模仿的攻击。
尽管 FBI 的通知细节 sparse，但它表示骗子通常会利用所谓的政府官员的身份来与目标建立熟悉感或紧迫感。然后，他们经常要求目标点击一个链接，以便在另一个消息平台上继续对话。实际上，这个链接是一个陷阱，旨在窃取敏感凭证，如用户名和密码。FBI 警告说，这种类型的攻击也可能用于攻击其他政府职位上的人员。如果骗子获得了受害者的联系人信息，他们就可以利用这些信息来攻击其他官员。之后，窃取的联系方式可能会被用于冒充他人，企图窃取或转移资金。
“访问美国官员运营的个人或官方账户，可能会被用来通过他们获取的受信任的联系信息来攻击其他政府官员或其同事和联系人，”FBI 指出。
相关：[那条关于未支付高速公路通行费的短信是骗局]
骗子正依赖 AI 深度伪造
越来越逼真的AI 生成的音频和视频使网络钓鱼骗局更加有效。网络安全公司 Zscaler 的一份 2024 年报告发现，2023 年网络钓鱼尝试增加了 58%，这一下飙升部分归因于 AI 深度伪造。虽然这些骗局可以针对任何人，但老年人受到的影响尤其大。2023 年，FBI 的数据显示，骗子通过各种金融骗局从老年人那里骗取了 34 亿美元。该机构指出，AI 使骗局看起来更可信，欺骗了那些本可能识别出是欺诈的人，从而加剧了这一问题。
其中一些攻击可能令人震惊地具有针对性。在过去两年里，有大量报道称，攻击者利用语音模仿技术欺骗父母，让他们相信他们的孩子被绑架了。在恐慌中，受害者转移了巨额资金，结果却发现他们所爱的人从未处于危险之中。语音模仿也被用于政治领域。
去年，新罕布什尔州的选民收到了一段语音通话，听起来像是前总统乔·拜登，敦促他们不要参加该州初选。这个“拜登”的声音实际上是由 AI 生成的。据报道，这段音频是由政治顾问史蒂夫·克莱默制作的，他当时正在与民主党总统初选挑战者迪安·菲利普斯合作。克莱默最终被 FCC 罚款 600 万美元，并且面临刑事指控，涉嫌压制选票。
FBI 敦促人们在收到声称直接来自政府官员的通信时要格外小心。如果发生这种情况，应尝试通过拨打与之相关的已知、可信的电话号码来独立核实该人的身份。该警报还建议公众检查电子邮件地址和 URL 是否有拼写错误或其他可能表明网络钓鱼企图的不规则之处。对于深度伪造，该通知建议注意奇怪的停顿、不寻常的语调或其他可能是 AI 生成语音的迹象。这说起来容易做起来难。当今最先进的工具可以生成普通人类观察者几乎无法区分的操纵内容。
