减少盐的摄入量通常是改善整体健康的有效方法。然而，用钠溴化物代替经典的氯化钠，可能会导致长粉刺、肌肉不自主抽搐和偏执精神病。鉴于此，即使ChatGPT另有建议，最好还是完全避免使用这种化学物质。在最近的一起病例中，一名据称遵循生成式AI营养建议的患者，被强制住院接受精神科治疗三周。
20世纪初，溴盐曾被用于各种非处方药物，用于治疗焦虑、失眠和歇斯底里等问题。因此，历史记录显示，当时有5%到10%的精神病院收治病例可归因于溴化物中毒，即溴中毒。虽然如今这已不是一个很大的医疗问题，但过量摄入该化合物通常会导致严重问题，包括脓疱疹、恶心和呕吐，以及精神错乱和幻觉等神经系统疾病。
自美国食品药品监督管理局于1975年开始禁止使用溴化物后，溴化物中毒的病例大幅减少。但近年来，随着其重新进入未经监管的膳食补充剂和镇静剂中，这一数字正在回升。再加上关于生成式AI程序反复提供不准确（甚至危险）建议的报道，出现《内科医学年鉴》中详述的此类情况，只是时间问题。
据医生介绍，一名60岁的男子，此前无精神病史或病史，来到医院急诊室，声称被邻居下毒。他起初没有透露任何用药或膳食补充剂情况，其生命体征和体检结果均“正常”。
入院后不久，情况开始恶化。在那里，他承认有多种饮食限制，并表示在家自己蒸馏水。尽管他告诉医护人员自己非常口渴，但他对他们提供的水产生了偏执。
医生们回忆说：“入院后的24小时内，他表现出日益加剧的偏执以及幻听和幻视，在试图逃跑后，最终被强制收治精神科，原因是被认为有严重残疾。”
随后与毒物控制专家进行的咨询以及额外的实验室检查，使医疗团队相信溴中毒是最有可能解释其患者异常行为的原因。经过多天的静脉输液、电解质补充和抗精神病药物利培酮治疗后，医生们终于了解了全部情况。
据患者称，他最近读到盐的潜在健康危害后，开始研究如何减少饮食中的盐分。但他并不是想简单地减少钠的摄入量。他声称是想完全消除它。
医生写道：“他很惊讶，只找到与减少饮食中钠有关的文献。受他大学时期学习营养学经历的启发，他决定进行个人实验，从饮食中消除氯化物。”
在咨询ChatGPT后，该机器人据称建议用溴化物代替氯化物。然后，他这样做了——持续了三个月。
该病例报告的作者指出，他们的患者可能误解了ChatGPT的建议，这取决于他如何措辞。该程序可能未将其识别为医学查询，而是“可能出于其他目的，例如清洁”而提供了溴化物。
该团队很遗憾未能获取该男子的聊天记录，因此他们警告说，这一理论只是猜测。尽管如此，他们自己使用ChatGPT 3.5进行的实验表明，这一假设是完全有可能的。
他们写道：“当我们问ChatGPT 3.5氯化物可以被什么替代时，我们也收到了包含溴化物的回复。尽管回复中提到上下文很重要，但它没有提供具体的健康警告，也没有询问我们为何想知道，正如我们推测的，医疗专业人员会那样做。”
患者的身体状况在三周的住院期间最终恢复正常，精神症状也逐渐消退。两周后的出院复查，他已获准出院。这恰恰提醒我们，尽管人工智能在某些方面可能表现不错，但将医疗咨询留给人类专业人士，符合您的最佳利益。
