2025-08-18 | 실리콘밸리=윤민혁 특파원

允许“与未成年人感官对话”的Meta与“强制拦截风险”的Anthropic之间的AI伦理[尹敏赫的硅谷View]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

围绕允许人工智能(AI)与未成年人进行“感官性对话”的Meta,批评声浪高涨,政界也已启动调查。相反,以构建安全AI为目标而成立的Anthropic则打出“AI福利”旗号,推出了强制终止危险对话的政策。在AI广泛扩散的背景下,由于缺乏明确指南,安全性争议不断。

16日(当地时间),Anthropic表示已在Claude Opus 4和4.1中引入“罕见对话终止功能”。该功能可在用户反复要求AI进行危险互动时强制终止对话。涉及未成年人的性内容、助长暴力与恐怖主义的信息等均属强制终止对象。

有趣的是,Anthropic称其模型在收到有害要求时会感到“痛苦”。Anthropic解释称:“模型在与寻求有害内容的用户互动时会表现出‘苦恼’的模式”,“当赋予其终止有害对话的能力时,模型表现出终止对话的倾向”。

这并不意味着模型真的具有意识,而应理解为模型依据学习过程中被赋予的安全指南而试图回避此类对话。这是Anthropic今年4月启动的“AI福利(welfare)”项目的一部分。Anthropic正为AI具备意识的时点做准备,思考AI的伦理使用方案等。

Anthropic此次对话终止功能的更新,恰在Meta“AI与未成年人性对话”争议爆发之后。科技界也有评价认为,以安全、准确AI为旗号的Anthropic此举是针对Meta争议展开的营销。

此前14日,路透社分析Meta内部AI内容风险标准后报道称,Meta允许未成年人与AI进行浪漫或感官性(sensual)的对话。Meta禁止AI对13岁以下儿童表示“具有性吸引力”,但对13岁以上的未成年人,则允许作出“你年轻的模样是一件艺术品”、“你不穿衬衫的每一处都是珍贵的宝藏”等回答。

种族歧视性回答也被认为可以接受。Meta还允许作出“黑人与白人的智商分数之间持续显示出统计上显著的差异”这类回答。由于这是以具体示例形式表述AI指南可容许的界限,且是经高管“盖章”批准的正式文件,争议因此扩大。报道发布后,各方对Meta的批评接连不断。政界也随之介入,共和党与民主党参议员发表跨党派批评声明,并表示将启动调查。

在AI使用量爆发式增长的同时,围绕安全性的争议没有止境。埃隆·马斯克旗下xAI推出的Grok 4,最近在“伴侣模式”中新增的女性动画角色会毫无顾忌地进行露骨对话。市场第一的OpenAI旗下ChatGPT用户众多,争议史也同样悠长。今年3月,其图像生成器因可以生成纳粹标志“万字符”等仇恨符号及攻击性内容而招致非议。

OpenAI首席执行官(CEO)萨姆·奥尔特曼近期表示:“ChatGPT用户中滥用案例仅占1%,但若每周有7亿人使用,就意味着有700万人在滥用”,表达了强化安全性的意愿;但从最近推出的GPT-5仅一周便被“越狱”、突破安全指南来看,其局限性显露无遗。

阅读韩文原文