2025-11-22 | 이인애 기자

“买了泰迪熊后孩子变奇怪了”……中国产“AI玩偶”最终停售,为何?

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

在美国销售的搭载AI(人工智能)的泰迪熊玩偶被曝向儿童试图进行露骨的性对话、甚至诱导危险行为,该产品已被全面停售。

据CNN 19日(当地时间)报道,新加坡玩具企业FoloToy首席执行官拉里·王表示,将立即回收包括问题AI玩偶“Kumma”在内的全部AI玩具产品线。他称:“我们非常严肃地对待关于不当内容安全机制不足的批评,正在进行内部审计。”

该玩偶搭载OpenAI的生成式AI“GPT-4o”,以99美元(韩华集团约14万韩元)出售。公司此前一直以AI互动功能为卖点,称其“对儿童和成人来说都是完美的朋友”。

然而,美国公益研究集团(PIRG)13日发布的报告揭示了超出想象的不当对话内容。在与研究人员的对话中,该玩偶具体而露骨地讲解了性取向、BDSM(施虐性行为)等,甚至主动提出性角色扮演的情节。此外还被确认有助长危险行为的发言,如告知儿童在家中何处可以找到刀具或火柴。

PIRG研究人员指出:“孩子先提到这些词的可能性极小,而玩具反而长篇大论地谈论性话题、甚至抛出新概念来主导对话,这一事实令人震惊。”

随着争议扩大,据悉OpenAI已对该玩具开发商采取了平台停用措施。

专家指出,此事是AI玩具监管空白的典型案例。报告共同作者R.J.克罗斯强调:“AI玩具至今仍未受到应有的监管”,“仅把问题产品从市场上清除还不够,亟需制定体系化的安全标准。”

阅读韩文原文