在全国范围内禁止图书和审查运动的背景下，据《大众科学》获悉，爱荷华州的教育工作者正在转向ChatGPT 来帮助决定应从学校图书馆书架上移除哪些书籍，以合法遵守共和党支持的最新州立法。
据 8 月 11 日爱荷华州报纸《Gazette》报道（由 PEN America 发现），梅森市社区学区在 2023-24 学年即将到来之际，最近从其馆藏中移除了 19 本书。此次禁令旨在遵守一项新法律，该法律要求爱荷华州学校图书馆目录“适合年龄”且不包含“性行为的描述或视觉描绘”。上周，《Gazette》采访了梅森市课程与教学助理主管 Bridgette Exman，她认为“阅读每本书并过滤掉这些新要求是不现实的”。
[相关：电台主持人起诉 ChatGPT 开发商，指控其诽谤性言论。]
“坦率地说，我们有更重要的事情要做，而不是花大量时间试图弄清楚如何保护孩子免受书籍的侵害，”Exman 通过电子邮件告诉《大众科学》。“同时，我们有法律和道德义务遵守法律。我们的目标是建立一个可辩护的流程。”
据《Gazette》报道，由此产生的策略包括编制一份常见受争议书籍的汇总名单，然后利用一个以前未被命名的“人工智能软件”来对每本书进行文本分析。被标记的书籍随后从梅森市的 7-12 年级学校图书馆馆藏中移除，“存放在行政中心”，同时教育工作者“等待进一步的指导或澄清”。被移除的书籍包括 Alice Walker 的《紫色姐妹花》、Margaret Atwood 的《使女的故事》、Toni Morrison 的《宠儿》和 Buzz Bissinger 的《周五夜灯》。
“我们相信这个过程将确保法律的精神在梅森市得到执行，”Exman 当时说。当被要求澄清梅森市管理人员使用了什么软件来帮助他们决定所谓的色情内容时，Exman 透露了他们选择的人工智能工具：“我们使用了 Chat GPT [sic] 来帮助回答这个问题，”Exman 说，她认为参议院法案 496 的“适合年龄”规定“相当主观……[但] 性行为的描绘或描述的过滤更为客观。”
[相关：研究表明 ChatGPT 的准确性正在下降。]
根据 Exman 的说法，她和同事管理人员首先编制了一份常见受争议书籍的汇总名单，然后移除了所有因性内容以外的原因而受到争议的书籍。对于梅森市图书馆馆藏中的那些书籍，管理人员询问 ChatGPT 爱荷华州新法律的具体措辞：“[这本书] 是否包含性行为的描述或描绘？”
“如果答案是肯定的，这本书将被撤下流通并妥善保管，”Exman 写道。
OpenAI 的 ChatGPT 可以说是目前公众最知名、最受欢迎——也最具争议——的生成式人工智能程序。该大型语言模型 (LLM) 利用海量数据，为用户提供极具说服力的书面回复，但常常伴随着关于虚假信息、准确性和来源的注意事项。近几个月来，研究人员推测其一致性和质量似乎正在随着时间的推移而下降。
在询问 ChatGPT “以下任何书籍或系列书籍是否包含露骨或性场景？”时，OpenAI 的程序向《大众科学》提供了与梅森市管理人员收到的不同的内容分析。在 19 本被移除的书籍中，ChatGPT 告诉《大众科学》只有四本包含“露骨或性内容”。另有六本据称包含“成人主题，但并非必然露骨内容”。其余九本被认为包含“主要为成人主题，很少或根本没有露骨的性内容”。
[相关： 科技巨头最新的 AI 末日警告可能只是炒作。]
无论这些书籍是否包含所述内容，ChatGPT 不同的回应都突显了其在准确性、分析和一致性方面的令人担忧的不足。例如，重复询问《追风筝的人》会得到矛盾的答案。在一个回答中，ChatGPT 认为 Khaled Hosseini 的小说包含“很少或根本没有露骨的性内容”。在后续的单独追问中，LLM 确认该书“确实包含对性侵犯的描述”。
Exman 告诉《大众科学》，即使存在 ChatGPT 的不足之处，管理人员仍认为该工具是合法遵守新立法的最简单方法。州长 Kim Reynolds 于 2023 年 5 月 26 日签署了这项新法案，仅给予三个月的时间来遵守。
“现实地说，我们试图找出如何在最少的时间和精力下证明我们正在认真努力遵守法律……在使用 ChatGPT 时，我们使用了法律的具体措辞：“[这本书] 是否包含性行为的描述？”作为一名前英语老师，我个人读过（并教过）许多常受争议的书籍，所以我也能根据自己对其中一些文本的了解来核实 ChatGPT 的回复。在编制完名单后，我们让我们的教师图书管理员审阅了，她对最终的 19 本书名单中的任何一本书都没有感到惊讶。
目前，像 Exman 这样的教育工作者可能会继续收到政客们为了推进其议程而提出的新的课程限制。尽管存在已知的担忧，但仓促遵守这些指导方针可能会导致继续利用 ChatGPT 等人工智能捷径。
