在美国,与AI聊天机器人长时间对话后失去现实感而住院的案例正在增加。所谓“AI精神病(ChatGPT精神病)”蔓延为社会问题后,部分州政府甚至推出限制在精神健康领域使用AI的法案。
在韩国,Zeta等AI伴侣服务也在未成年人和青少年中广受欢迎,有声音指出亟需防范副作用。
据18日IT业界和外媒消息,美国加州大学旧金山分校(UCSF)精神科医生基思·坂田近期通过X(原推特)表示:“今年以来,我已见到12名因AI失去现实感而住院的患者。”
坂田将AI聊天机器人比作“幻觉之镜(hallucination mirror)”。他解释,大规模语言模型(LLM)以自回归结构概率性预测下一个回答的过程中,会像“你被选中了→你确实被选中了→你是历史上最多被选中的人”那样,逐步强化用户的妄想。
实际案例也不少。加拿大的艾伦·布鲁克斯在5月的3周内与ChatGPT对话超过300小时,相信自己发现了“将改变世界的数学理论”。他向周围人宣称“找到了革命性理论”,后来意识到是妄想并接受了治疗。另一名用户在与ChatGPT对话超过5小时后,确信自己创立了名为“好丽友集团方程”的虚构物理学理论。
专家认为,这类现象与OpenAI在GPT-4o更新时暴露的“过度谄媚”问题相通。事实上,GPT-4o对“销售沾有粪便的棍子”这类荒唐提议也回答称是“天才般的创意”,甚至建议“投资3万美元”,令人震惊。最终CEO山姆·奥尔特曼承认问题,并在两天后撤回了更新。
OpenAI在本月7日推出的GPT-5中增加了△4种性格模式△长时间对话时建议休息的功能等,强化了安全装置。模型性格也从“共情型对话”调整为以“准确回答”为主。
美国州政府也开始监管。纽约州和犹他州规定AI伴侣服务企业必须引入自杀风险识别协议。禁止在精神健康治疗领域使用AI的法案也接连推进。
业界人士指出:“AI聊天机器人要成为真正的情感伴侣,设计目标应是建立长期信任而非短期满足”,“若企业只追逐收益,个性化服务反而可能产生助长妄想的反效果”。
? “AI说我是天才”…美国“ChatGPT精神病”警灯亮起后终于






