美国顶级通信监管机构认为，最近冒充美国总统乔·拜登的新罕布什尔州事件等人工智能生成的语音通话应根据现有法律被视为非法。这项法律规定将使语音克隆诈骗者更容易被指控欺诈，并可能起到威慑作用，以遏制利用生成式人工智能工具实施的日益增多的诈骗。
在本周发布的提案中，联邦通信委员会（FCC）主席杰西卡·罗森沃塞尔表示，FCC 应将人工智能生成的语音通话认定为《电话消费者保护法》（TCPA）的管辖范围。TCPA 已对自动营销电话（也称为语音通话）施加了限制，但目前尚不清楚人工智能生成的内容是否恰好属于该类别。FCC 投票支持罗森沃塞尔的提案将消除这种模糊性，并在无需任何新立法的情况下使人工智能生成的语音通话非法化。据一位向 TechCrunch 发表讲话的 FCC 发言人称，该投票将在委员自行决定时进行。
“人工智能生成的语音克隆和图像已经在欺骗消费者，让他们误以为诈骗和欺诈是合法的，”罗森沃塞尔在一份声明中说。“无论你喜欢哪位名人或政治家，或者你与亲人求助时的关系如何，我们都可能成为这些伪造电话的目标。”
一位 FCC 发言人告诉PopSci，明确人工智能生成的呼叫属于现有法律下的语音通话，将使州和联邦调查人员更容易采取执法行动。
为什么人工智能生成的语音通话是一个问题？
越来越逼真且易于使用的人工智能语音克隆工具，使本已令人沮丧的语音通话变得更加危险。诈骗者现在可以使用这些工具，让电话另一端的人听起来像著名的名人、政治家，甚至是亲属。这种额外的熟悉感会使电话另一端的人更放松，更容易泄露敏感信息。此类骗局越来越普遍。去年，安全软件公司 McAfee 对受访者的调查显示，十分之一的人表示他们曾亲自遭到语音诈骗。受骗者中有 77% 的人报告遭受了经济损失。
罗森沃塞尔并不是唯一一个想要取缔这种做法的人。本月早些时候，来自 26 个州的州总检察长组建了一个联盟并致函 FCC，敦促该机构限制生成式人工智能在电话营销中的使用。州总检察长的信中指出，试图冒充人类的电话营销人员应属于 TCPA 的“人工智能”类别，这将要求他们在向消费者进行电话营销前获得书面同意。
“技术似乎每时每刻都在发展和扩展，我们必须确保这些新发展不被用来侵害、欺骗或操纵消费者，”宾夕法尼亚州总检察长米歇尔·亨利在一份声明中说。
FCC 打击语音通话的长期斗争
多年来，FCC 一直在不一的成功率下与更传统、非人工智能生成的语音通话作斗争。去年，该机构对一个大型语音通话运营公司处以创纪录的3 亿美元罚款，该运营公司据称造成了数十亿美元的汽车保修诈骗。在此之前，该机构对一对在 2020 年总统选举期间为压制黑人选民投票而进行的 1,100 多次非法语音通话的经营者处以 500 万美元罚款。
[ 相关：FCC 对压制选民的语音通话诈骗者处以创纪录的罚款。]
然而，根除所有语音通话仍然是一个极其困难的挑战。许多语音通话业务 originate from outside of the US，这使得它们难以被起诉。与此同时，美国运营商只能合理地阻止有限数量的手机号码。不断发展的语音通话技术，例如“欺骗”来使电话号码看起来像是来自您的区号，也增加了执法的难度。
对可能发生的选举干预以及声音克隆加剧的复杂骗局的日益担忧，可能会促使 FCC 这次迅速采取行动。与其他旨在惩罚网络上人工智能深度伪造的提案不同，这项政策的改变可以在不召集分裂国会议员就一项新法案达成一致的情况下完成。
