本周，面临偏见指控的谷歌被迫暂停了其生成式 AI 模型 Gemini 的图片生成功能。此次临时暂停是在用户批评其在民族多样性方面过于强调，有时甚至牺牲了准确性之后发生的。在谷歌暂停服务之前，Gemini 被发现会生成种族多元化的 二战时期纳粹、维京战士、美国开国元勋以及其他历史上以白人为主的人物形象。
谷歌在周三发布的声明中表示，Gemini 的图片生成能力“未能达标”，并表示“正在立即努力改进这些类型的描绘”。随后，谷歌于周四上午暂停了对图片生成工具的访问，并表示将很快发布新版本的模型。周四上午，《PopSci》测试该服务时，Gemini 拒绝生成任何图片，反而显示：“我们正在努力改进 Gemini 生成人物图片的能力。我们预计该功能将很快恢复，并在更新日志中通知您。” 截至本文撰写之时，Gemini 仍处于关闭状态。谷歌在被联系置评时，将《PopSci》引向了其最新声明。
Gemini 图片生成引争议
谷歌本月早些时候正式开始在其 Gemini 中推出图片生成工具，但围绕其非白人描绘的争议在本周愈演愈烈。X（原 Twitter）上的用户开始分享截图，其中 Gemini 据称在被明确要求描绘白人时生成了非白人形象。批评者声称，在其他情况下，Gemini 在被要求生成历史上以白人为主的群体图片时，似乎过度代表了非白人。
这些帖子很快引起了右翼社交媒体圈的注意，他们对他们认为美国政治和商业中存在强制性的多元化和公平倡议表示不满。在更极端的圈子里，一些账号利用 AI 生成的图片煽动了毫无根据的阴谋论，指责谷歌故意试图在 Gemini 的图片结果中消除白人。
谷歌如何回应 Gemini 争议？
尽管围绕 Gemini 的争议似乎源于批评者认为谷歌对白人个体的关注不够，但研究 AI 的专家们一直认为，AI 模型恰恰相反，经常低估了非白人群体。在很短的时间内，在文化偏见数据集上训练的 AI 系统已经累积了重复和强化少数族裔刻板印象的历史。安全研究人员表示，这就是为什么构建 AI 模型的科技公司需要负责任地过滤和调整其产品。图片生成器，以及更广泛的 AI 模型，经常会重复或强化从其训练数据中吸收的文化偏见数据，研究人员有时称之为“输入垃圾，输出垃圾”。
2022 年，OpenAI 的 DALL-E 图片生成器推出后，也发生了类似的情况，AI 研究人员批评该公司涉嫌强化根深蒂固的性别和种族刻板印象。例如，当时，用户要求 DALL-E 生成“建筑工人”或“空乘人员”的图片，结果却只显示男性和女性。此后，OpenAI 对其模型进行了一些调整，试图解决这些问题。
[ 相关：这位程序员和诗人认为我们应该如何解决种族偏见的 AI 问题 ]
谷歌可能试图通过 Gemini 来抵消一些偏见，但在过程中却过度纠正了。在周三发布的声明中，谷歌表示 Gemini 的确会生成各种各样的人，并称这“总体上是一件好事，因为世界各地的人们都在使用它。” 谷歌没有回应《PopSci》关于 Gemini 可能为何产生上述图片结果的置评请求。
目前尚不清楚 Gemini 生成这些图片的具体原因，但一些评论员有自己的猜测。在周四接受《Platformer》的 Casey Newton采访时，前 OpenAI 信任与安全负责人 Dave Willner 表示，在平衡 AI 模型如何负责任地生成内容方面非常复杂，而谷歌的做法“并不算优雅”。Wilner 猜测，这些失误可能部分归因于谷歌工程师在处理这一细致领域时缺乏足够的资源。
[ 相关：OpenAI 的 Sora 使我们向 AI 深渊又迈进了一大步]
Gemini 产品总监 Jack Krawczyk 在 X 上的一篇帖子中进一步阐述了这一点，他表示模型中非白人人物的描绘反映了公司的“全球用户群”。Krawczyk 辩护称，谷歌在代表性和偏见方面的做法符合公司的核心 AI 原则，但表示在历史提示方面可能存在一些“不准确之处”。
Krawczyk 在一个现已受限的账户上表示：“我们意识到 Gemini 在某些历史图片生成描绘方面存在不准确之处，我们正在立即着手解决。” 他补充说：“历史背景有更多的细微之处，我们将进一步调整以适应这一点。”
Krawczyk 和谷歌均未立即回应用户关于种族代表性选择超出严格历史人物的批评。值得指出的是，这些说法应该持怀疑态度。一些用户表达了不同的经历，《PopSci》也未能重现这些发现。在某些情况下，其他记者声称 Gemini 拒绝生成提示 AI 创建黑人或白人图像的请求。换句话说，用户最近几天与 Gemini 的互动经历似乎差异很大。
谷歌周四发布了一份单独的声明，表示将暂停 Gemini 的图片生成功能，同时努力解决“不准确性”和明显的比例失调问题。该公司表示将“很快”重新发布新版本的模型，但没有提供具体日期。
尽管 Gemini 生成导致其暂时停用的内容的原因尚不清楚，但谷歌此次在网上遭受的强烈抨击，可能在短期内不会在 AI 制造商身上消失。
