隐语并非新鲜事物，但通过社交媒体传播的规模 本质上是前所未有的。观察人士经常将在线内容审核比作 打地鼠游戏，在这种游戏中，平台 几乎无法阻止 涌入的 定向虚假信息、阴谋论、宣传图片和仇恨言论。
上周《彭博社》的一份报告详细说明，特别是反疫苗者越来越依赖隐语，经常使用表情符号在 Facebook 等社交媒体平台上传播被禁止的虚假信息和宣传。更重要的是，一位曾负责公共政策的前 Facebook 高管表示，目前的 AI 审核程序显然无法应对挑战——而且有理由相信它们可能永远都无法应对。
“坦率地说，这些平台持续构建的所有系统在实现其期望的功能方面，仍处于非常初级的阶段，”技术政策战略集团 Anchor Change 的首席执行官兼大西洋理事会数字法证研究实验室的非常驻高级研究员 Katie Harbath（此前曾在 Facebook 担任十年公共政策主管）告诉《流行科学》。
[相关：虚假信息干预的复杂领域。]
在名称含糊不清的群组和页面（如“突然死亡”）中见面和交谈，《彭博社》指出，反疫苗者继续兜售显而易见的 COVID-19 虚假信息，使用“吃蛋糕”等短语来指代接种疫苗。“有时，用户声称他们的亲人已经接种了辉瑞或 Moderna 疫苗的四到五‘片’，并使用披萨、纸杯蛋糕和各种水果的表情符号来表达他们的观点，”报告补充道。
上下文对于标记和移除违禁内容至关重要，而表情符号隐语的引入使得 AI 监控程序更加复杂。AI 内容审核 利用机器学习算法 来识别、标记，并在必要时删除其确认为有问题的内容——通常是色情或暴力图片和文字，但隐语和表情符号对它们来说仍然常常是一个致命弱点。“[机器] 仍然会错过一些重要的细微差别，比如虚假信息、偏见或仇恨言论。因此，在互联网上实现百分之百清晰、安全和用户友好的内容似乎几乎是不可能的，” 数据标注服务 Label Your Data 的一份概览 解释道。
Harbath 表示，无论是对 AI 系统还是人工审核员而言，处理表情符号和隐语的挑战是双重的。“一是，你必须重新培训你的审核员，让他们能够理解这种上下文，并弄清楚他们是否试图使用这个表情符号，”她说。“这可能很有挑战性，这取决于内容审核员能（或不能）获得多少 [上下文和材料]。” Harbath 说，这些审核员通常一次只能看到一个帖子或消息，这剥夺了他们用于执法决策的潜在重要上下文。
[相关：可以为自己接种虚假信息免疫。]
试图领先于这些团体也带来了自身的挑战。Harbath 解释说，更新或扩大审核系统的分类器和命名法也可能导致更高的误报率，从而带来新的烦恼和复杂性，同时弊大于利。“大多数人使用表情符号的方式相对良性，”她说……“这是所有平台都必须处理的一场持续的战斗。”
Facebook 的母公司 Meta 在就此问题置评时，选择强调其在这方面的成功。“试图逃避检测或执法表明我们正在有效执行我们针对 COVID 虚假信息的政策，”Facebook 的政策传播经理 Aaron Simpson 通过电子邮件写道。Simpson 还指出，自疫情开始以来，Facebook 已因违反关于 COVID-19 虚假信息的政策而移除了“超过 2700 万条内容”，这些内容横跨 Facebook 和 Instagram。“据估计，截至今年，仅 Facebook 在其平台上就有 大约 2.41 亿美国用户。”
尽管存在这些问题，仍有一些积极的迹象。AI 程序继续 提高其有效性，而且隐语的本质决定了它通常只被“圈内人”使用，因此对于招募或传播宣传而言并非必不可少。这可能是一种微不足道的安慰，但像 Harvath 这样的人对替代方案保持警惕，并呼吁 加强数字素养计划，而不是采取彻底禁止表情符号等策略。
“你可以彻底禁止这些东西，但他们就会[回到]使用隐语，”Harvath 说。“你基本上已经到了‘干脆关闭互联网’的地步了。”
