周四，美国联邦通信委员会一致裁定，根据 1991 年的《电话消费者保护法》，包含AI 生成的声音克隆的电话推销是非法的。这项 30 多年前通过的电信法如今已涵盖了当今一些最先进的人工智能程序。该法案于 2 月 8 日生效，标志着 FCC 在 2024 年选举季前，遏制 AI 辅助的诈骗和虚假信息活动方面迈出了最强有力的一步。
“这似乎是来自遥远未来的事情，但它已经在这里了，”FCC 主席杰西卡·罗森沃塞尔在一份声明中表示。“这项技术在我们收听、观看和点击时会欺骗我们，因为它会欺骗我们，让我们认为各种虚假信息是合法的。”
[相关：“假冒乔·拜登”的电话推销告诉选民在总统初选中不要投票]。
FCC 的广泛禁令发布后不到两周，当局就报告了一起针对新罕布什尔州数千名居民的压制选票活动，该活动发生在州总统初选之前。这些后来被证实源自德克萨斯州一个组织的电话推销，其中包含总统乔·拜登的声音克隆，要求居民不要参加 1 月 23 日的初选。
诈骗者已经使用了 AI 软件，从制作深度伪造的名人视频来推销假冒的医疗福利卡，到模仿受害者的亲人进行虚构绑架。去年 11 月，FCC 启动了关于 AI 在诈骗中使用情况的公开征求意见通知，以及如何利用该技术打击不法分子。
根据罗森沃塞尔的说法，周四的公告旨在“更进一步”。《电话消费者保护法》于 1991 年通过，当时该法案涵盖了包含人工智能或预录语音消息的未经请求的“垃圾”电话。在审查该法律后，FCC（毫不意外地）认定 AI 声音克隆本质上只是这些垃圾电话策略的更高级版本，因此受到同样的禁止。
FCC 委员杰弗里·斯塔克斯在一份随附声明中表示：“我们都知道不受欢迎的电话推销是我们社会的祸害。但我对最近在电话推销中使用声音克隆的有害和欺骗性行为尤其感到担忧。”斯塔克斯继续称，生成式 AI 是美国竞选季前选民压制努力中的“新威胁”，因此需要立即采取行动。
除了可能面临每次呼叫超过 23,000 美元的监管罚款外，声音克隆者现在也可能面临受害者的法律诉讼。《电话消费者保护法》规定，个人每次接到不受欢迎的电话可获得高达 1,500 美元的损害赔偿。
