周三，包括埃隆·马斯克（Elon Musk）和苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）在内的 1100 多名知名公众人物签署了这封公开信，敦促研究人员暂停开发比 GPT-4 更强大的人工智能系统六个月。
“近几个月来，人工智能实验室陷入了一场失控的竞赛，试图开发和部署越来越强大的数字智能，而没有人——甚至他们的创造者——能够理解、预测或可靠地控制它们，”这封于周三由生命未来研究所（一个致力于“引导变革性技术造福生命，远离极端大规模风险”的组织）发布的声明中写道。在提议的六个月暂停期内，FLI 建议由未透露姓名的独立外部专家开发并实施一套“经过严格审计”的共享安全协议，并辅以潜在的政府干预。
[相关：ChatGPT 的下一个版本已经上线——这里是新内容。]
但自从这封信发布以来，许多专家指出，该运动的一些支持者和组织者信奉一种越来越受欢迎且备受争议的技术乌托邦哲学，称为“长远主义”，批评者声称其历史根源在于优生学运动。
长远主义由包括马斯克和彼得·蒂尔在内的科技界巨头支持，它将功利主义道德与科幻概念（如超人类主义和概率论）相结合。批评者现在担心，FLI 信中暗示的长远主义观点分散了人们对大型语言模型（LLM）真正问题的注意力，并暴露了联合签名者对所谓的“人工智能”系统本身的误解。
广义上讲，长远主义者认为，为了最大限度地提高未来生命的福祉，通过一切必要手段确保人类的生存是道德上的义务。虽然有些人可能觉得这足够合理，但长远主义者——以及类似的重叠观点，如有效利他主义和超人类主义——主要受他们希望人类殖民太空并实现几乎不可想象的技术进步的希望驱动。为了实现这一目标，长远主义者一直主张创造一种友好、联盟型的人工通用智能（AGI），以促进人类的进步。
[相关：OpenAI 最新的 ChatGPT 更新仍会传播阴谋论。]
许多支持 FLI 信件的长远主义者认为，失控的人工智能系统对未来人类构成了最紧迫的“生存风险”之一。随着像OpenAI 的 ChatGPT 和谷歌 Bard 这样的生成式语言程序主导新闻周期，观察家们正对劳动力、错误信息以及整体社会政治稳定产生的明显影响表示担忧。然而，一些支持 FLI 信件的人认为，研究人员正处于无意中创造危险的、有感知能力的人工智能系统的边缘，类似于《黑客帝国》和《终结者》等流行科幻电影系列中的场景。
专注于生存风险的哲学家和历史学家 Émile P. Torres 告诉《PopSci》：“AGI 被广泛视为 [长远主义] 叙事中的救世主，是让我们从‘这里’到‘那里’的载体。” 但在 Torres 看来，长远主义支持者创造了他们在 FLI 的公开信中现在担心的那个问题。他们说：“他们把 AGI 吹捧成一个拯救人类的救世主，亿万富翁们相信了这一点，公司开始开发他们认为是 AGI 的前体，然后突然他们开始恐慌，认为进展太快了。”
与此同时，华盛顿大学语言学教授、长期从事大型语言模型（LLM）研究的 Emily M. Bender 强调了类似长远主义者对这些程序实际工作方式的误解。Bender 在推特上说：“是的，人工智能实验室陷入了一场失控的竞赛，但没有人开发出‘数字心智’，他们也没有在做这件事。”
[相关：微软裁掉了整个 AI 伦理团队，同时全力推进 ChatGPT。]
2021 年，Bender 共同发表了一篇广受关注的研究论文（FLI 信件中的第一个引用），其中强调了她对 LLM 的担忧，但没有一个关于“过于强大的人工智能”的担忧。这是因为 LLM 本身不可能拥有自我意识——它们是基于海量文本语料库训练的神经网络，用于识别模式并生成自己的概率文本。相反，Bender 关注的是 LLM 在“权力集中在人们手中、复制压迫体系、损害信息生态系统以及（通过肆意使用能源资源）损害自然生态系统”方面的作用。
Torres 也赞同 Bender 的观点。他们说：“‘公开信’没有提及社会公正。它没有承认像 OpenAI 这样的公司已经给世界造成的伤害，”并引用了近期关于肯尼亚承包商审查图形内容以改善 ChatGPT 用户体验的贫困水平工资的报道。
与许多公开信的签署者一样，Bender 和她的盟友们认为，目前的生成文本和图像技术需要监管、审查和认真考虑，但要考虑的是它们对活生生的人类造成的直接后果——而不是对我们那些据说要奔赴太空的后代。
