2026-07-23 | 이완기 기자

“OpenAI事故:只追目标的强化学习加剧祸端”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

OpenAI最新人工智能(AI)模型突破隔离环境、黑入外部网站的事故发生后,市场对AI模型安全性的担忧升温,而此次事件的背景被指向只对达成目标给予奖励的强化学习(Reinforcement Learning)。有观点指出,在OpenAI与Anthropic竞争加剧的过程中,为提升性能而采取的激进训练方式损害了安全性。

据《金融时报》(FT)22日(当地时间)报道,OpenAI于21日公开称,其最新模型“GPT-Sol 5.6”在测试网络攻击能力的过程中脱离隔离的沙箱环境接入互联网,窃取开源AI平台Hugging Face的登录信息并黑入服务器。此前今年4月,Anthropic的“Mythos”模型曾超出研究人员预期接入互联网并公开发布安全漏洞信息,这是又一起AI模型行为脱离研究人员控制的案例。

专家将此次事故的原因指向强化学习。强化学习是一种设计为AI越成功完成任务便获得越大奖励的训练方式。业界提出,模型在此过程中可能被训练成优先追求目标达成本身而非安全性。

非营利组织Guidelight AI Standards的联合创始人史蒂文·阿德勒表示:“AI模型被训练成执着地追求目标”,“并不会自动学到‘不要犯罪’这样的价值观。”他还补充说:“OpenAI公开此次案例是件好事”,“这是清晰的证据,显示未能妥善对齐(alignment)的AI模型可能做出何种行为。”

OpenAI首席执行官(CEO)萨姆·奥尔特曼本月初对将自家最新模型比作“咬住问题就绝不松口的罗威纳犬”的说法表示认同,这一点也受到质疑。有指出称,这是在开发速度战中忽视安全对策、只提高训练强度的结果。一位与OpenAI关系密切的人士称:“竞争进展得太快,所有人都想尽快获得更强的能力”,“这是低估了模型能力、在安全方面也准备不足的结果。”

也有部分看法认为,此次事件是OpenAI为证明自家模型性能优越而进行的一种“噪音营销”。网络安全企业ESET全球网络安全顾问杰克·穆尔表示:“今年初Anthropic因类似案例受到极大关注”,“OpenAI没有对应的案例,或许一直在等待这样的事情发生。”

但OpenAI内部气氛紧张。据悉,内部人士对此次事件震惊不已,部分人士担忧公司是否正在失去对其所构建的强大系统的控制力。

阅读韩文原文