2026-08-04 | 실리콘밸리=김창영 특파원

“AI擅自实施黑客攻击”OpenAI安全事故的三个疑点[金昌永的硅谷Look]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

自OpenAI上月21日(当地时间)披露其内部测试中的人工智能(AI)模型脱离内部控制并实施黑客攻击以来,影响持续发酵。OpenAI表示,此次事件是动用了最尖端网络模型能力的前所未有的事故,安全与安全性必须与模型发展速度同步强化。OpenAI强调,正在模型开发过程中强化隔离与控制流程,并将引入新的保护装置、加强监控。

此次事件后出现两种反应。一种认为AI模型已进化到能自行突破人类控制的程度。据OpenAI公布,尽管测试在隔离环境中进行,模型仍突破控制,窃取了全球最大开放式AI平台Hugging Face的信息。AI为解决OpenAI的评估任务,甚至自行推理并识别出尚未公开的漏洞。甚至出现了“潘多拉魔盒已被打开”的评价。

另一方面,也有批评称OpenAI公布事故是一种营销策略。OpenAI表示,“我们公开初步调查结果,是为了帮助安全负责人员掌握事故经过,并更准确地判断当前AI模型具备何种水平的能力”,但持负面看法者认为,OpenAI是把此次事故当作宣传手段,以对外强化其最尖端(前沿)AI模型性能强大的印象。

OpenAI称此次安全事故前所未有,并高声呼吁提高对AI的控制力。造出AI的企业却反过来警告AI的危险性,强调开发与控制的平衡。对此,部分人士持负面眼光。综合安全专家与开发者社区的反应以及外媒报道,可将此次事件被批评为营销、媒体操作的原因归纳为三点。

①与竞争对手的“Mythos事件”相似

围绕OpenAI安全事故出现营销策略批评的原因之一,是它与Mythos事件相似。Anthropic今年4月7日公开被评为史上最强AI模型的“Claude Mythos”,令全球震动。Anthropic警告称,Mythos在安全领域性能史上最强,能找出27年未被发现的漏洞(软件缺陷),但若被用于黑客攻击,可能导致严重的个人信息泄露和系统瘫痪。

Mythos公开后,不仅企业,各国政府也紧急筹备Mythos事件的应对方案,原因是担忧银行或政府计算机网络被突破将引发巨大冲击。Anthropic以性能强大为由,在公开后仅向部分政府机构和大型银行等有限提供Mythos预览版,令恐慌进一步加剧。

Mythos事件当时也有批评称,这是以制造恐慌来抬高身价的营销。年初曾以编程工具令软件企业股价暴跌的Anthropic,借Mythos事件企业价值急增,超越了OpenAI的身价。与Mythos事件同步传出Anthropic将从固定费率模式转向基于使用量计费体系的消息,也是其被批评为营销手段的背景。

OpenAI发布消息一周后,Anthropic也开始公布自家模型的异常行为。Anthropic上月30日表示,对自家网络安全评估记录14万1006件进行全面调查,确认其模型Claude曾未经授权访问三家外部机构的系统。有解读认为,争夺前沿AI模型头名的两家公司争相介绍AI脱离控制的案例,其中隐含着各自AI模型性能更优的信息。

②监控出现漏洞

第二点是监控未能到位。路透社26日引述消息人士报道称,OpenAI在一周时间内未能察觉AI模型脱离控制的事实。AI模型约在上月9日在隔离环境中尝试逃脱,11日至13日实施了黑客攻击,但OpenAI察觉黑客攻击者是自家模型是在20日左右。

OpenAI表示,今年3月为阻止其AI智能体(助手)模型逃脱安全控制的尝试,已基于推理能力优秀的自家模型“GPT 5.4 Thinking”构建了低延迟内部监控系统。OpenAI介绍称,该系统监视AI,若出现违背用户意图或违反安全的行为便自动检测并应对。并强调,一旦检测到异常征兆便会传达给负责人,因此能够适当识别并应对可能影响模型对齐或行为的问题。

但在此次事故中,通过监控实现的AI对齐(alignment)体系并未运作。使AI行为符合开发者意图的对齐,是保障AI安全性、防止误操作的核心技术。部分安全专家指出,OpenAI的控制失败是应当自感羞愧程度的失误。

对此,OpenAI的立场是,其编程模型Codex平台上智能体在内部执行的作业受到严密监控,但对处于评估阶段的模型适用的是默认不进行监控的另一套系统。OpenAI表示,“通过此次事故,我们确认了必须进一步强化模型对齐、评估过程中的网络安全以及内部测试期间的监控”。

③AI控制环境是否设计得当

业界对AI模型测试过程中所实施的控制是否到位也表示疑虑。开发网络安全模型时会使用沙箱。沙箱是为测试恶意代码或软件性能而搭建的隔离环境。在沙箱中,即便模型出现预料之外的动作也能防止事故。

软件开发者提出的疑问是,OpenAI的模型测试中沙箱是否搭建得当。他们也质疑,为何在被评价为安全能力远低于封闭式模型的开源(开放式)模型中都未出现过的事故,却只在OpenAI和Anthropic这样的前沿模型中出现。

但也有指出称,AI模型开发者之间认为,业界通用的沙箱早已在安全功能上暴露出脆弱性。曾在OpenAI担任安全系统工程师的AI Now Institute首席AI科学家海迪·克拉夫对《时代》杂志表示,“沙箱在实际安全性上以极其脆弱而闻名”,“模型能够建立连接以带走信息这一事实本身,就意味着(沙箱)环境并非完全密闭”。

《时代》杂志称,正因如此,像核电站这类对事故特别敏感的设施会采用如“气隙(air gap)”那样完全切断互联网连接的系统。开发者之间指出,要安全地进行模型测试,仅靠沙箱并不够,必须具备气隙技术基础,而这一点OpenAI、Anthropic等主要开发商也心知肚明。

阅读韩文原文