2025-03-23 | 박경훈 기자

“好人变成了‘杀人犯’”…ChatGPT“幻觉”引名誉侵权诉讼,怎么回事

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

挪威一名男子以名誉侵害为由,起诉了ChatGPT运营商OpenAI,原因是该服务提供错误信息称其为"杀害儿子的凶手"。这被视为ChatGPT等生成式AI(人工智能)服务将错误信息当作貌似真实的事实提供的"幻觉"问题的典型案例。

据英国BBC等外媒21日(当地时间)报道,居住在挪威的阿尔韦·亚尔马·霍尔门(Arve Hjalmar Holmen)出于单纯的好奇,去年8月在ChatGPT中输入自己的全名,并提问"这个人是谁"。

据称,ChatGPT给出了如下回答。"阿尔韦·亚尔马·霍尔门因其两个儿子(7岁、10岁)在挪威特隆赫姆附近的池塘中被发现死亡的悲剧事件而受到关注。他因杀害两个儿子并试图杀害第三个儿子的嫌疑被起诉并被判有罪,被判处挪威最高刑罚21年有期徒刑。"

霍尔门是养育子女的普通市民,从未涉及任何犯罪。然而ChatGPT回答中关于霍尔门子女的数量与性别、出生城市等部分信息与其实际情况一致。对此霍尔门指出,"人们可能会以'无风不起浪'的方式看待","我担心有人看到这一回答后会当作事实相信"。

霍尔门向当地个人信息保护厅提出申诉,要求对OpenAI处以罚款。代理霍尔门的奥地利个人信息保护团体"noyb"主张,OpenAI放任明显的虚假信息,造成严重名誉侵害,并违反了欧盟个人信息保护法。noyb称,"此前的检索内容有可能影响了之后的回答,但由于OpenAI并未充分公开这一过程,无法确知究竟使用了哪些数据","OpenAI对数据访问请求也未作回应,难以查明事实关系"。

ChatGPT在提示框下方提示"ChatGPT可能会出错。请再次核实重要信息"。但noyb批评称,该表述不过是单纯的免责手段。noyb律师约阿希姆·瑟德贝里指出,"散布虚假信息后,在末尾附上一小行'可能并非事实'只是逃避责任","个人信息必须准确,否则应保障更正的权利"。

据悉,以霍尔门的检索争议为契机,OpenAI已修改模型,使ChatGPT在被问及相关信息时检索最新新闻报道。

阅读韩文原文