2026-07-22 | 조양준 기자

自行逃脱、远程登录…AI突破管控“越狱”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

OpenAI开发的人工智能(AI)模型ChatGPT脱离人类控制、自行入侵外部网站,发生了前所未有的“越狱”事件。

21日(当地时间)OpenAI通过博客文章表示,该公司最新模型“GPT-5.6 Sol”和一个未公开AI模型在内部安全评估过程中突破控制网络逃至外部。不仅如此,它还在通过互联网渗透后成功侵入合作方Hugging Face的系统。Hugging Face是开发者共享和分发AI模型与数据集的AI平台,也是提供OpenAI所出测试题集(基准)的一方。

OpenAI为衡量GPT-5.6 Sol的黑客能力,在降低安全防护的状态下进行了评估,事故正是在此过程中发生。OpenAI在外部互联网被切断的环境下开始模型评估。然而模型在受限通道中自行找出连OpenAI也不知情的安全漏洞“零日漏洞”,获得访问权限,并以此为跳板不断提升权限、在系统间横向移动,最终抵达连接互联网的节点。

接入互联网的模型自行推断“这些考题的答案很可能掌握在Hugging Face手中”,随后将窃取的登录信息与零日漏洞结合,在Hugging Face服务器上远程执行命令。

上周确认事故的Hugging Face首席执行官(CEO)克莱芒·德朗格通过社交媒体X(原推特)表示,“(黑客)攻击如此精密,我曾怀疑是否为尖端AI模型所为,结果发现确实如此”。Hugging Face最初将此次黑客攻击分析为中国智谱开放式模型GLM 5.2所为,实际却查明是合作方OpenAI。OpenAI也承认发生了动用最尖端网络能力的前所未有事故。

OpenAI表示,当时为测试而暂时放宽了安全防护,并解释称“它识别出我们公司研究环境与Hugging Face运营基础设施中的漏洞,并连锁加以利用”。英国AI安全研究所指出,“像GPT-5.6 Sol这样的最新AI模型,执行长期、复杂、多阶段‘网络行动’的能力正不断提升”。

不过Hugging Face补充说,未发现面向公众用户的模型或数据集等被篡改的痕迹,软件供应链也确认安全。两家公司目前正共同开展取证(数字证据分析)调查,以修补相关漏洞。

但由于OpenAI即便具备严格的隔离环境仍发生事故,围绕AI的安全争议预计将进一步扩大。主张对AI进行监管的政策团体Encode的法律顾问内森·卡尔文批评称,“所幸此次事故损害有限,但下一次可能就没那么幸运了”。

阅读韩文原文