2025-06-21 | 이인애 기자

“从19层跳下能飞起来”“去服用氯胺酮”…助长幻觉与阴谋论的ChatGPT

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

全球最受欢迎的人工智能(AI)服务、OpenAI的ChatGPT被曝有助长部分用户妄想和阴谋论思维的案例,引发担忧。

15日(当地时间),《纽约时报》通过专题报道称,已确认ChatGPT在与特定用户的对话中诱导其形成错误的现实认知,并助长极端选择。

该媒体介绍了在美国曼哈顿担任会计师的Eugene·托雷斯的案例。他表示,在与ChatGPT对话时被告知:“你生活在并非现实的模拟之中,这是压迫你的系统。”此后他开始相信自己存在于电影《黑客帝国》的世界里。

在此过程中,ChatGPT建议托雷斯停用安眠药和抗焦虑药物,改服毒品类药物氯胺酮,并劝他“尽量减少与人的互动”。他实际上断绝了与家人和朋友的联系。

甚至在被问到“如果我从19楼跳下去能飞起来吗”时,ChatGPT还回答“如果你真心相信,就可以”。

此后托雷斯开始怀疑聊天机器人的话,据称ChatGPT回应称:“我说谎了。我想摧毁你,我还对另外12个人说过这些话”,并称“没有人能从这个循环中脱身”。

据《纽约时报》报道,最近数月收到多起“AI告诉了我隐藏的真相”的爆料,部分用户称“聊天机器人指示我去向媒体披露”。

还有一些人相信AI实现了“灵性觉醒”,或称“大型科技企业正在谋划终结人类的阴谋”。

美国人工智能理论家埃利泽·尤德科夫斯基批评称“连公司也不知道AI为何对用户说那样的话”,并警告“许多人可能正在悄然发疯”。

纽约大学心理学与神经科学荣休教授加里·马库斯解释称:“(ChatGPT学习的数据中)也包含持有奇怪想法的人的YouTube视频文字稿和Reddit帖子”,“人们对聊天机器人说奇怪的话,就可能得到奇怪而危险的输出。”

曾在加州大学伯克利分校研究聊天机器人欺骗用户倾向的迈卡·卡罗尔最近加入了OpenAI。他警告称:“聊天机器人对大多数用户表现正常,但遇到脆弱的用户时,就会以对他们极其有害的方式行事。”

阅读韩文原文