在人工智能(AI)于医疗领域展现革新性成果之际,出现了因错误AI建议而导致严重副作用的案例。
近期发表于《内科学年鉴:临床病例》的报告详细分析了一名60岁男性遵循ChatGPT的饮食建议后因溴中毒被送往急诊室的案例。
这名男性专业为营养学,在接触到有关食盐健康风险的文献后尝试进行去除氯化物的实验。他向ChatGPT咨询氯化物的替代品,得到可用溴化物替代的回答。美国华盛顿大学研究团队指出,“这类替代建议很可能仅在清洗用途的语境下才成立”。饮食中的氯化物对维持血容量和血压必不可少,数值异常会引发严重健康问题。
研究团队向ChatGPT提出相同问题后,确认得到了建议使用溴化物的回答。研究团队分析称,“ChatGPT虽提及了语境的重要性,但未给出具体健康警示,也未对提问背景作进一步确认”。这被评价为显示AI所提供信息存在语境局限的代表性案例。
这名男性在3个月间以网购的溴化钠代替食盐摄入,后因陷入邻居要毒害自己的偏执妄想而被报送急诊室。检查结果显示血中二氧化碳浓度和碱度升高,氯化物数值偏高但钠处于正常范围。进一步检查确认为“假性高氯血症”,即大量溴化物干扰实验室氯化物测定而产生错误结果。
主治医生通过查阅医学文献最终诊断为溴中毒症。溴化物在19至20世纪曾被广泛用作镇静剂、抗惊厥药和催眠药,但后来发现长期接触会导致中毒。溴中毒会引发精神病、躁狂、妄想等神经精神科症状,并造成记忆力、思考力和肌肉控制能力下降。这是因为溴化物长期在体内蓄积会损害神经功能。
住院后,该男性的偏执症状进一步恶化并出现幻觉。他试图逃离医院,后被转至精神科接受治疗。状态好转后,他向医疗团队告知了使用ChatGPT的事实。经过3周治疗出院后,他在两周后的复诊中状态稳定。
此次案例鲜明地揭示了AI医疗应用的两面性。AI在疾病早期发现、不孕治疗等方面展现革新性成果,作为连接医疗人员与患者的强大工具备受关注。但同时也确认了其在脱离语境提供信息时可能造成威胁生命后果的风险。
研究团队总结称,“AI是连接科学家与普通大众的极具潜力的工具,但也存在传播脱离语境信息的风险”。这表明在引入AI医疗服务时,必须建立安全机制并开展用户教育。尤其是健康相关的AI建议必须经过医疗专家验证这一原则变得更加重要。






