世界各地的骗子正在大肆敛财。仅去年一年，美国消费者就因欺诈损失了创纪录的 100 亿美元，比前一年增加了 14%。骗子越来越多地通过电话针对年长、易受骗的人。在最近的一项研究论文中接受调查的英国 75 岁以上居民中，有三分之二以上的人声称在过去六个月中至少经历过一次欺诈企图。其中 40% 的受访者面临频繁的欺诈企图。
现在，一位名叫“黛西”的人工智能生成的英国祖母正在让骗子的工作变得更加繁琐。英国移动运营商 Virgin Media O2 创建了黛西，目的是与不良行为者通话，尽可能多地浪费他们的时间。利用类似 ChatGPT 的大型语言模型，黛西会滔滔不绝地讲述她对编织的热情，并编造冗长虚构的家庭故事，其目标是让骗子保持通话。理论上，与黛西就其虚构的家庭或日常琐事进行令人沮丧的交谈的每一分钟，就意味着骗子少了一分钟可以针对真实的人。
Virgin Media O2 欺诈总监穆雷·麦肯齐在 一篇博文 中表示：“我们反欺诈团队的新成员黛西，正在扭转局面——通过让他们保持通话，在他们残酷的游戏中智胜并挫败他们。”
人工智能祖母接受了真实诈骗电话的训练
O2 表示，他们与专业的诈骗网络破坏者合作，将与该人工智能相关的电话号码添加到骗子目标号码的已知列表中。如果骗子试图拨打其中一个号码，他们将立即开始与黛西互动。O2 发布的一些与骗子的对话录音显示，黛西通过谈论她虚构的猫“毛毛”以及含糊其辞地回答他们的问题来戏弄恼怒的骗子。黛西还会向骗子提供虚假的个人信息和虚假的银行详细信息，让他们以为他们实际上是在欺骗一个真人。这些对话会让骗子感到沮丧。O2 提供了录音片段，其中可以看到愤怒的骗子对着另一端的人工智能咒骂。
“别再叫我‘亲爱的’了，你这个笨蛋 [脏话]，”其中一个骗子说道。
“知道了，亲爱的，”黛西回答。
为了做到这一切，黛西首先使用语音转文本人工智能模型来转录骗子的语音。然后，它将这些文本输入另一个人工智能模型，该模型会根据相关内容起草回复。另一个文本转语音模型会以老年女性的声音发音。所有这些处理都在几秒钟内完成，让骗子以为他们在与真人交谈。黛西的训练使用了 O2 收集的“诈骗诱饵”的真实录音。
O2 特意使用了一位年长的女性，因为她们 通常是欺诈的重点受害者。在这种情况下，黛西被编程为进行漫无边际、冗长的对话，旨在让骗子一直聊下去。据报道，该模型已经成功地让许多骗子保持通话超过 40 分钟。
在英国，被骗子盯上的呼叫者可以通过将来电转接到 7726 号码来将其发送给人工智能。然后，该电话将转到黛西热线。O2 表示，希望黛西能够在欺诈性电话活动激增的情况下发挥有意义的作用。在 O2 最近进行的一项调查中，大约五分之一的英国受访者表示，他们每周都会接到一次诈骗电话。
人工智能也在催生新的骗局
虽然黛西的任务是阻止欺诈，但骗子也在使用类似的人工智能工具发动各种新的攻击。所谓的 AI“语音克隆”，它使用音频片段来模仿一个人的声音，近年来已被用于银行欺诈和电汇欺诈。在一些极端例子中，骗子甚至利用人工智能欺骗人们，让他们相信他们的亲人 已被绑架或劫持为人质。受害者相信他们的儿子或女儿处于迫在眉睫的危险之中，然后向骗子支付虚假的赎金。这类骗局越来越普遍。在网络安全公司 McAfee 最近进行的调查中，有四分之一的受访者声称他们本人或他们认识的人曾遭受过 AI 语音克隆诈骗。像黛西这样的工具理论上可以通过让其他 AI 诈骗机器人陷入漫长的圈套来帮助遏制这种趋势。
“亲爱的，让我们面对现实吧，”黛西在一段录音中说道。“我有的是时间。”
