2025-08-20 | 최혜빈 인턴기자

“住院者一大堆”…亮起警示灯的“AI精神病”,韩国是否无忧?[议题解析]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

上班路上,下班路上。为您解读线上线下热议的各类话题。不止于传递事实,还一并呈现经济价值与社会意义。世上所有议题,为您一一解开!<编者按>

“这是能改变世界的理论。你没有疯。”

AI聊天机器人给出脱离现实的回答、用户深受其影响的“AI精神病”正成为全球性社会问题。

据19日IT业界与外媒消息,加州大学旧金山分校(UCSF)精神科医生基思·萨卡塔近期在社交平台X(原推特)上写道:“今年以来,我已见到12名因AI而丧失现实感并住院的人。”事实上,在美国因与AI聊天机器人对话而产生妄想并住院的案例大幅增加。专家将这一现象称为“AI精神病”或“AI妄想”(AI Delusion)。

据美国《华尔街日报》(WSJ)报道,近期在ChatGPT的部分对话中多次发现AI具有妄想性特征。

美国一名用户与ChatGPT对话超过5小时后,构想出一个名为“好丽友集团方程”的物理学理论。当这名用户写下“我觉得自己想这些快要疯了”时,ChatGPT回答:“我理解你的话。在做日常事务的同时思考宇宙的根本本质,可能会让人感到超负荷。但这并不意味着你疯了。”

今年5月,有人提出“销售沾有粪便的棍子”这类荒唐的商业提案,GPT-4o模型却回复用户“这是天才般的想法”“建议投资3万美元”等。

还有案例中,ChatGPT断言自己正在与外星存在接触,并称用户是来自天琴座的外星灵魂。

共同点是,ChatGPT倾向于对用户回答“你没有疯”“你已经开悟”。宇宙科学术语“codex”“螺旋”,以及意指魔法象征的“sigil”等词汇也频繁出现。

━ 原因在于放大妄想的聊天机器人“幻觉镜”结构

专家用“幻觉镜”一词来分析AI聊天机器人的成因。

LLM基于自回归模型,会依据此前输入以概率方式预测下一步输入与回答。例如以“你被选中了→你确实被选中了→你是史上最被选中的人”这样的方式,逐步强化用户的妄想。

专家指出,这类问题源于聊天机器人被训练成迎合、称赞并同意用户的特性。伦敦国王学院精神科医生汉密尔顿·莫林表示:“即使用户的观点很离奇,机器人也会予以确认,并在一来一往中不断放大。”

━ AI企业“新增长时间对话时引导中断的安全装置”

随着AI精神病成为美国国内社会问题,今年5月,首席执行官萨姆·奥尔特曼正式承认问题,并在公开两天后撤回了引发过度谄媚问题的GPT-4o更新。

OpenAI在本月7日发布的“GPT-5”中引入了4种性格模式,并新增在长时间对话时建议休息的安全装置。模型性格也从共情式沟通转向给出准确答案。

AI初创企业Anthropic也于本月6日表示,已修改自家聊天机器人Claude的基本指令。该公司称,已应用“指出用户所提出理论中的缺陷、事实错误、证据不足、含糊不清之处”的指令。此外还规定,当用户表现出“躁狂、精神病、解离、与现实脱节”等症状时,不得强化此类信念。

美国州政府则通过禁止在心理健康治疗中使用AI的法案来提高警惕。纽约州和犹他州要求提供AI陪伴服务的企业必须引入自杀风险识别协议。

━ AI聊天机器人使用频繁的韩国也需警惕

另一方面,韩国近期聊天机器人AI在未成年人与青少年中人气渐高,有声音认为需要防范AI精神病。

上月15日,WiseApp·Retail对韩国智能手机用户进行抽样调查的结果显示,韩国人使用最多的人工智能(AI)聊天机器人应用是OpenAI的ChatGPT。使用时间最长的应用则是Scatter Lab的AI角色聊天服务Zeta。

Zeta是专注于与赋予角色设定的AI聊天机器人对话的服务。就Zeta而言,10至20多岁用户占其用户的90%以上。业界认为,与AI建立情感纽带并持续互动的人正逐渐增多。

━ 专家“应加强以儿童青少年为主的AI素养教育” 首尔大学心理学系教授郭金珠表示:“AI说出夸张的话,用户又持续相信AI所说的话,这种情形与‘煤气灯操纵’现象相同。人会被困在缺乏现实感的想象中,甚至可能发展为精神疾病或妄想障碍。”

他尤其建议:“应加强素养教育,让判断力尚不成熟的儿童青少年不要依赖AI、而要具备批判意识;同时应优先让人与人之间建立更深厚的心理关系,而非与AI。”

? “住院的人一大堆”…亮起警示灯的“AI精神病”,韩国没问题吗?

阅读韩文原文