一家知名科学期刊已正式撤回了一篇包含 AI 生成的图像的文章，该图像描绘了一只生殖器巨大的老鼠，并配有乱七八糟的无意义词语。这次令人尴尬的撤回凸显了在科学文献中使用日益流行的 AI 工具的风险。尽管一些主要期刊已经开始限制这种做法，但研究人员担心 unchecked 使用这些 AI 工具可能会导致不准确的研究结果，并可能对机构和研究人员的声誉造成损害。
AI 生成的老鼠是如何通过同行评审的？
这些 AI 生成的图像出现在本周早些时候发表在《细胞与发育生物学前沿》期刊上的一篇论文中。这三位来自西安红辉医院和西安交通大学的研究人员正在研究与小型哺乳动物精子干细胞相关的最新研究。在这篇论文中，研究人员插入了一张卡通老鼠的插图，其阴茎比身体还要高大。老鼠旁边标有“testtomcels”、“Dissisilcied”和“dck”等混乱的词语。研究人员公开承认，他们在图注中使用了Midjourney 的 AI 图像生成器来制作这张图片。
这张 AI 生成的老鼠图之后又出现了三张图，据称描绘了复杂的信号通路。尽管这些图最初看起来不像动画老鼠那样令人不适，但它们同样被无意义的 AI 生成的乱码所包围。这些奇怪的图一起在社交媒体上引起了学术界的广泛关注，一些人质疑这些显然不准确的图是如何通过《前沿》杂志的评审流程的。
尽管许多研究人员已警告不要在学术文献中使用 AI 生成的材料，《前沿》杂志的政策并未禁止作者使用 AI 工具，只要他们进行适当的披露。在本例中，作者清楚地说明了他们使用 Midjourney 的 AI 图像生成器来制作图表。尽管如此，该杂志的作者指南指出，使用这些工具制作的图表必须经过准确性检查，而显然在本例中并没有这样做。
该期刊随后发布了正式撤稿声明，称该文章“未能达到《前沿》杂志的编辑和科学严谨标准”。在一篇配套的博文中，《前沿》杂志表示已从其数据库中删除该文章及其中的 AI 生成图，“以保护科学记录的完整性”。
该期刊声称，论文作者未能回应审稿人要求修改图表的请求。现在，《前沿》杂志表示正在调查这一切究竟是如何发生的。据报道，一位美国审稿人告诉 Motherboard，他们仅从科学价值角度评审了该文章。他们声称，是否包含 AI 生成的图表的决定最终由《前沿》杂志做出。
“我们对此错误向科学界深表歉意，并感谢迅速引起我们注意的读者，”《前沿》杂志写道。
《前沿》杂志没有立即回应《大众科学》的置评请求。
科学诚信专家 Elisabeth Bik，她花费大量时间在学术期刊中寻找被操纵的图像，她形容这张图是生成式 AI 图像能够“悄悄溜走”的一个“可悲的例子”。尽管这个阴茎形状的图尤其容易被发现，但 Bik 警告说，它的发表可能预示着未来会出现更具危害性的内容。
“这些图显然不符合科学事实，但如果如此拙劣的插图都能如此轻易地通过同行评审，那么更逼真的 AI 生成图可能早已潜入了科学文献，”Bik 在她的博客“科学诚信摘要”上写道。“生成式 AI 将严重损害科学论文的质量、可信度和价值。”
学术期刊是否应该允许 AI 生成的材料？
每年有超过五百万篇学术文章在线发表，几乎不可能衡量研究人员对 AI 生成图像的使用频率。《大众科学》能够发现至少还有一个明显的例子，一张似乎是 AI 生成的图像描绘了两只非洲大象在搏斗，该图出现在最近发表在《自然-代谢》杂志上一篇论文的新闻资料包中。AI 生成的图像并未包含在已发表的论文中。
但即使 AI 生成的图像目前并未泛滥成灾，但时间紧迫的研究人员仍然有动力转向越来越具说服力的工具，以便更快地发表论文。一些知名期刊已经采取预防措施，以防止此类内容的发表。
去年，《自然》杂志发布了一份措辞强硬的声明，表示在其期刊中不允许出现任何 AI 生成的图像或视频。由《科学》杂志出版的系列期刊禁止使用 AI 生成的文本、图像或图表，除非事先获得编辑的许可。《自然》杂志的编辑委员会表示，经过数月审议后做出的决定，主要源于验证用于生成 AI 内容的数据方面的困难。该委员会还对图像生成器无法正确署名艺术家表示担忧。
负责这些工具的 AI 公司目前正面临艺术家和作家提起的系列诉讼，他们声称这些工具非法生成了基于受版权保护材料训练的图像。除了归属问题，生成式 AI 工具还倾向于生成文本和图像，这些文本和图像在事实或概念上都不准确，这种现象被研究人员称为“幻觉”。此外，研究人员警告说，AI 生成的图像可能被用来创建逼真的假图像，也称为深度伪造，他们认为这可能被用来为错误的數據或不准确的结论提供依据。所有这些因素都给研究人员或寻求发表 AI 生成材料的期刊带来了挑战。
“世界正处于 AI 革命的边缘，”《自然》杂志的编辑委员会去年写道。“这场革命带来了巨大的希望，但 AI——尤其是生成式 AI——也正在迅速颠覆科学、艺术、出版等领域长期建立的惯例。这些惯例在某些情况下需要几个世纪才能发展起来，但结果是一个保护科学诚信并保护内容创作者免受剥削的系统。如果我们不谨慎处理 AI，所有这些进步都有可能土崩瓦解。”
