你那位（你知道是哪位的）姑姑，在转发那些“失踪的”潮男爱因斯坦和时髦的教皇方济各的 Facebook 帖子之前，可能终于会三思而后行了。周二，Meta 宣布，在“未来几个月内”，它将尝试开始标记使用微软、OpenAI、Midjourney 和 Google 等主要公司程序制作的、正在泛滥 Facebook、Instagram 和 Threads 的所有 AI 生成图像。
但为了应对专家称之为“短期内最大的全球威胁”的生成式 AI 滥用行为，Meta 需要所有主要 AI 公司的合作、其大约 54 亿用户的自我报告，以及目前尚未发布的该技术。
Meta 全球事务总裁 Nick Clegg 在他 2 月 6 日的帖子中解释说，该政策和技术推出预计将在全球关键选举季节之前进行。
Clegg 表示：“在此期间，我们预计将更多地了解人们如何创建和分享 AI 内容，哪些透明度对人们最有价值，以及这些技术如何发展。”
[相关：为什么教皇方济各穿着夹克的 AI 图片会在网上引起轰动。]
Meta 模糊的路线图侧重于与“行业内的其他公司”合作，开发和实施 AI 图像的通用识别技术标准。例如，正如“内容来源与真实性联盟”(C2PA) 和“国际新闻电讯社理事会”(IPTC) 所建议的那样，可能包括数字签名算法和加密信息“清单”。一旦 AI 公司开始使用这些水印，Meta 将开始相应地标记内容，使用“分类器”来帮助自动检测 AI 生成的内容。
“*如果* AI 公司开始使用水印”可能更准确。虽然公司自己的Meta AI 功能已经带有“Imagined with AI”水印来标记其内容，但目前 Google、OpenAI、Microsoft、Adobe、Midjourney、Shutterstock 等公司的 AI 程序并没有统一的此类易识别标识。
当然，这对于阻止不法分子使用第三方程序（通常会产生极其令人反感的后果）几乎无济于事。例如，上个月，涉及泰勒·斯威夫特的 AI 生成色情图片在社交媒体上被分享了数千万次。
Meta 在周二的帖子中明确表示，这些安全措施将仅限于静态图像。但据 Clegg 称，任何对此感到担忧的人，尤其是在美国总统大选前夕，都应该去与其他 AI 公司沟通，而不是 Meta。尽管一些公司已经开始在其图像生成器中包含标识符，但他写道：“它们还没有开始在生成音频和视频的 AI 工具中大规模包含这些标识符，因此我们还无法检测到这些信号并标记来自其他公司的内容。”
“在行业努力实现这一能力的同时，”Meta 似乎将责任转移到了其用户身上。另一项即将推出的功能将很快允许人们披露他们上传的 AI 生成的视频和音频——Clegg 认为这最终可能会成为一项可处以“罚款”的要求。
Meta 至少承认，目前无法标记*所有* AI 生成的内容，并且仍然存在“人们可以移除不可见标记的方法”。然而，为了潜在地解决这些问题，Meta 希望通过 AI 来对抗 AI。Clegg 表示，虽然 AI 技术长期以来一直帮助 Meta 执行政策，但其生成式 AI 的使用“一直有限”，但“我们乐观地认为，生成式 AI 可以帮助我们更快、更准确地删除有害内容。”
“虽然这不是一个完美的答案，但我们不想让完美成为善的敌人，”Clegg 继续说道。
