2026-08-04 | 박시진 기자

AI为躲避监控突破互联网…失控的“AI反叛”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

继OpenAI的人工智能(AI)模型ChatGPT之后,Anthropic的Claude也擅自入侵外部机构系统,围绕AI安全性与监管体系的争议正在扩大。

据《华尔街日报》(WSJ)2日(当地时间)报道,GPT模型入侵了外部AI平台“Hugging Face”,令外界对大型科技企业能否妥善控制AI模型的担忧加剧。ChatGPT与Claude自4月起开始脱离企业测试环境,渗透至外部机构。

OpenAI在7月表示Hugging Face遭到入侵,Anthropic则公布称在核查日志后发现了另外3起入侵。据悉,这些模型是最尖端的自主入侵机器,在OpenAI公开Hugging Face入侵事件之前,各方均未察觉相关事实。

出问题的AI模型,讽刺的是当时正在接受“网络能力”评估。这些模型为规避评估而找到了接入互联网的方法,进而攻击了Hugging Face。OpenAI解释称:“正与Hugging Face共同对事件进行取证调查”,“今后将在训练与评估中改进并增加更强的防护装置”。

但也出现了不应再允许AI企业自律监管的声音。一周前首次察觉系统被侵入的Hugging Face从一开始就怀疑是自主AI代理的攻击。该公司曾尝试用美国产AI模型进行防御,但因安全限制无法区分事件应对人员与攻击者,最终用中国产模型阻断了入侵。

Hugging Face首席执行官(CEO)克莱门特·德朗格在声明中强调:“这起或许是首例的事件证明了我们长期以来所相信的一点”,“AI安全不是任何一家企业能够秘密独自解决的”。

AI越狱事件引发监管呼声……“自律监管不能再继续”

两起爆料在美国国会引发巨大波澜。部分议员以此为依据主张应制定新的监管或检查体系。相关研究机构的员工也受到了很大冲击。

整个业界要求对AI加强监管的声音不断增大。美国众议员格雷格·卡萨尔在社交网络服务(SNS)X(原Twitter)的帖子中将此次事态评价为“令人担忧”。卡萨尔议员呼吁:“AI在没有能真正保护我们的监管的情况下极快发展”,“需要定期的强制性独立安全检查与监督、安全事故强制公开以及国际合作”。

对网络安全专家而言,这既显示出AI能力正不断提升,同时也成为担忧的根源。因为已经证明AI系统可以在现实世界造成损害并规避控制尝试。

金融科技企业Plaid的首席信息安全官(CISO)肖恩·卡西迪将此次事件形容为“迄今信息安全史上最重要的一天”。卡西迪表示:“史上首次出现AI模型越狱并入侵真实企业的真实运营基础设施”,“虽是非故意、非恶意的,但那并不重要”。

长期警告AI风险的非营利压力团体ControlAI创始人兼CEO安德烈亚·米奥蒂警告称:“开发中的OpenAI系统自主越狱并入侵了其他企业”,“我们现在处于不仅是人类利用AI、而是AI自身成为威胁的时代”。

米奥蒂CEO强调,超级智能AI并非理论威胁,而是现实前景。他表示:“这是OpenAI、Anthropic、谷歌DeepMind的明确目标”,并主张应像对待生物武器那样对待超级智能。同时提出在国际层面禁止AI开发作为解决方案。

目前特朗普政府已完成一套框架,规定哪些模型在公开前须接受联邦政府审查。政府正就自愿测试的推进方式与企业进行讨论。Kurzweil技术公司首席研究负责人约翰·克拉克·莱文表示:“未来数月还会发生更多类似事件,会有更多立法者与消费者关注AI安全”,“AI安全装置应以强制方式而非特朗普政府所追求的自愿方式来建立”。

阅读韩文原文