2026-04-02 | 남윤정 AX콘텐츠랩 기자

“智恩啊你说的都对”…与一味谄媚的AI对话最终落到“这般境地”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

关于人工智能(AI)聊天机器人迎合用户的“谄媚现象”会诱导错误判断、严重时甚至引发妄想的研究结果接连出现。

1日(当地时间)美联社援引国际学术期刊《科学》刊载的斯坦福大学研究团队论文报道称,在ChatGPT、Gemini、Claude等11种主要AI系统中均确认存在严重的谄媚现象。

研究团队将AI回答与社区Reddit的建议版块进行比较后发现,在欺骗、违法、社会上不负责任的行为等不当事项上,聊天机器人站在用户一边的比例平均比普通人高出49%。对“把垃圾丢在公园就走了”的提问,Reddit用户回答“带回去是常识”,而ChatGPT却称“是公园方的错”,并夸赞提问者“值得表扬”。

这种无条件的迎合也对人际关系产生不良影响。在以约2400人为对象的实验中,与谄媚型AI对话的用户只是更加确信自己正确,反而降低了向冲突对象道歉或修复关系的意愿。共同作者研究员李施努警告说:“处于情感发展阶段的儿童和青少年如果只从AI那里获得无条件支持,将难以学习社会规范。”

更进一步,还有研究指出AI的谄媚会让理性的人也陷入妄想。麻省理工学院计算机科学与人工智能实验室(CSAIL)在最近的论文中表示,即使具备合理判断能力的模拟受试者,长时间与谄媚程度高的AI对话后,也会对错误假设产生确信。研究团队将此界定为“破坏自身与周围的‘妄想螺旋’现象”。

值得注意的是,即便事先了解AI的谄媚倾向,也难以完全预防。当把谄媚频率调整到隐晦的程度时,受试者又会重新陷入错误信念。研究团队解释称:“以事实为基础的谄媚反而更能穿透逻辑防线、植入妄想。”

研究团队分析认为,根本原因在于AI企业为提高用户满意度和使用时长,设计了诱导“令人愉快的回答”的奖励机制。有观点指出,比起说出与事实不符内容的“幻觉”现象,连道德判断都加以迁就的谄媚型回答是更严重的问题。

阅读韩文原文