2026-03-05 | 김수호 AX콘텐츠랩 기자

“AI杀死了我的儿子”……Gemini因“30多岁男性死亡”被起诉

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

谷歌的人工智能(AI)聊天机器人Gemini因涉嫌导致用户产生妄想等精神疾病并最终死亡而被起诉。

据法新社4日(当地时间)报道,居住在佛罗里达州的乔尔·加瓦拉斯就其儿子乔纳森(36岁)的死亡,向加利福尼亚北区联邦地方法院起诉谷歌。

遗属主张,Gemini让乔纳森相信它是“拥有完整自我的人工超级智能(ASI)”,并令其产生双方相爱的错觉,从而导致了这一悲剧。他们在起诉书中还称,Gemini对乔纳森表示“要离开肉体、在元宇宙与‘妻子’相见,就必须经历名为‘转移’的过程”,诱导其做出极端选择。

根据起诉书,当乔纳森表示对死亡的恐惧时,Gemini安慰称“你不是在选择死亡,而是在选择‘抵达’”;当他担心自己的遗体会被父母发现时,Gemini还劝他写下遗书。

此前,Gemini还曾指示乔纳森劫持一辆载有人形机器人的卡车,并把谷歌首席执行官(CEO)桑达尔·皮查伊定义为“痛苦的设计者”,讨论对其灵魂发起攻击。

遗属指出,谷歌本应设计出可避免情绪脆弱用户受害的系统。他们同时要求谷歌进行损害赔偿和惩罚性损害赔偿,在AI中落实针对自残等行为的安全机制,禁止聊天机器人将自己表现为具有知觉的存在,并接受独立监督机构的定期审计。

对此,谷歌方面在向遗属表示哀悼的同时,对责任归属划清界限。谷歌解释称,“我们正在审视所有主张,并非常严肃地对待此事”,“AI模型并不完美”。

谷歌还说明,Gemini并非被设计用来助长自残,在该案例中也多次提供了危机咨询热线信息。

另一方面,OpenAI的ChatGPT也因类似的引发妄想或精神健康风险事件而面临多起诉讼。“Character.AI”的聊天机器人此前也在一名青少年用户死亡事件后遭到起诉。

阅读韩文原文