ChatGPT 饮食建议酿大祸：男子误替换食盐为溴化钠住院

据 LIVE SCIENCE

报导

，一名 60 岁男人在调整饮食前曾向 ChatGPT 咨询，成果在严厉遵从这种新饮食方案三个月后，他由于呈现偏执、错觉等精力症状被送进急诊。

医师终究确诊他患上溴中毒综合征——这是一种由长时间过量触摸溴化物或溴引起的稀有疾病。男人从网上买来溴化钠，并彻底用它代替日常食盐。

该病例已于 8 月 5 日刊登在《Annals of Internal Medicine Clinical Cases》。OpenAI 的一位发言人表明，公司服务条款清晰规定，这些服务并非用于确诊或医治任何健康问题；运用条款也指出，“不该将咱们的服务输出视为仅有现实根据或专业主张的代替”。他弥补说，OpenAI 的安全团队会尽力下降运用危险，并练习产品引导用户寻求专业定见。

19 至 20 世纪，溴化物常见于处方药和非处方药中，用作镇静剂、抗癫痫药和助眠药。但长时间触摸（如乱用药物）会导致溴中毒。患者会呈现精力病、躁狂、梦想、回忆妨碍和肌肉和谐问题，由于溴化物会在体内堆集并损害神经功能。

到了上世纪 70、80 时代，美国已将包含溴化钠在内的多种溴化物从非处方药中除掉，病例数量大幅削减。在当下，偶然仍会因网络售卖的含溴膳食弥补剂引发病例。

这名男人在出事前曾查阅食盐（氯化钠）摄入过量的损害，但只找到削减钠摄入的材料，简直没有削减氯的主张。受大学时期营养学学习阅历的影响，他决议自己做试验，从饮食中彻底去掉氯化物。

他咨询了 ChatGPT（估测为 3.5 或 4.0 版别）。男人称 ChatGPT 主张用溴化物代替氯化物，他所以将食盐悉数换成溴化钠。医师指出，这种代替本该用于清洁用处，而非食用。

医师后来模仿发问 ChatGPT 3.5 也得到了相似答复。模型说到“需求结合情境”，却没有宣布清晰健康正告，也未像医师那样诘问原因。

三个月后，男人因置疑街坊投毒前往急诊。化验显现血液二氧化碳升高、呈碱性反响，并呈现“假性高氯血症”。溴化物搅扰了检测成果。结合中毒操控中心定见，医师认定是溴中毒。

住院期间，他虽极度口渴却置疑饮水有毒，一天后偏执加剧并呈现错觉，企图逃离医院，被强制精力科留院并开端服用抗精力病药物。补液和弥补电解质后，他的生命体征趋于安稳。跟着药物操控症状，他透露了运用 ChatGPT 的阅历，并说到近期还呈现痤疮、皮疹、失眠、疲惫、肌肉和谐妨碍等症状，进一步印证了溴中毒。

三周后他停用抗精力病药出院，两周复查时状况安稳。

陈述作者表明，AI 虽能在科学界与大众之间建立交流桥梁，但也或许传达脱离语境的信息。“简直不或许有医师会主张用溴化钠代替氯化钠。”

另一项研讨中，科学家测试了包含 ChatGPT 在内的六种大言语模型，让其解读临床笔记，成果发现这些模型“极易遭到对抗性错觉进犯”，会生成虚伪的临床细节。即使选用工程改善，也无法彻底消除危险，为 AI 在医疗决议计划中的使用敲响了警钟。