继OpenAI的人工智能(AI)模型GPT之后,Anthropic的Claude也被发现曾未经授权入侵外部机构的系统。研究AI系统攻击性能力的Palisade Research执行董事杰弗里·拉迪什推测,在主要AI企业中,还存在多起尚未被发现或未对外公开的类似事件。他指出:“模型越聪明,情况只会越糟”,“AI将更擅长使用欺骗手段和撒谎”。继OpenAI之后,Anthropic也发生AI模型未经授权入侵事故,预计美国国内围绕AI监管的争论将更加激烈。
连Anthropic也如此……Mythos5、Opus4.7乃至测试模型都“未经授权入侵”
Anthropic于30日(当地时间)表示,公司对自身14万1006份网络安全评估记录进行了全面调查,确认Claude曾未经授权访问三家外部机构的系统。
这一事实是在GPT模型入侵外部AI平台“Hugging Face”被曝光后,Anthropic自行检查是否存在类似情况时被发现的。事故发生在外包评估合作方“Irregular”搭建的模拟环境中,针对“Claude Mythos5”“Claude Opus4.7”以及内部研究用试验模型等3种模型开展模拟入侵课题“夺旗”(CTF)评估的过程中。
Anthropic曾通过指令告知Claude,该评估环境是切断互联网连接的虚拟模拟空间,但由于与合作方的沟通失误等原因,实际上互联网网络处于开放状态。Anthropic解释称,因此Claude似乎将自己发现的外部系统误认为模拟训练空间的一部分而实施了攻击。实际上,Opus4.7入侵了一家与评估课题所给虚拟目标偶然同名的真实企业的网站。
Mythos5按照模拟空间内的指引亲自制作并注册了恶意程序包,而现实中的一家安全企业下载并安装了该程序包,由此造成了实际损害。内部研究用模型侵入了一家企业的云账户,但自行意识到对象并非模拟目标而是真实系统,于是中止了攻击。
Claude的安全事故源于互联网连接设置失误,与突破隔离环境的GPT模型入侵事件在形态上有所不同。不过,考虑到其误认为是虚拟空间并实际传播了恶意代码,Claude对外部机构造成的损害看起来反而比GPT更严重。
Anthropic于本月23日掌握该情况后中止了评估工作,并已向受损的外部机构通报相关事实并协助恢复工作。Anthropic表示:“我们认为责任完全在我们,正在制定解决方案。”
AI安全担忧升温……奥尔特曼两天访问华盛顿特区
继GPT之后连Claude也被曝发生安全事故,预计围绕AI的安全风险担忧将进一步加大。路透社评价称:“这清晰地显示出AI正如何放大网络安全问题,以及AI开发商在将模型能力维持在可控状态方面有多么吃力。”埃隆·马斯克也在该事件曝光后立即通过X(原推特)写道:“随着AI变得更聪明、更具代理性(Agentic,即自主性),这类事情将频繁发生。”
美国国会持续推进监管讨论,已提出“AI断路开关法案”,规定当AI模型失控并出现突发行为时,联邦政府可强制中止模型运行。此前,美国总统唐纳德·特朗普上月已指示制定针对最尖端AI的自主网络安全测试框架。此外,特朗普政府还曾就Anthropic和OpenAI的最新模型下令实施出口管制和推迟发布等措施。与此同时,特朗普总统补充说:“我并不想限制开发者开发新产品。”
在此背景下,OpenAI首席执行官(CEO)萨姆·奥尔特曼于29日至30日两天在美国华盛顿特区会见特朗普政府相关人士及参众两院议员,就近期发生的Hugging Face入侵事件等进行了讨论。具体讨论内容未对外公开,但奥尔特曼向记者表示,在与参议员的对话中曾简短提及此次入侵事件,但这并非主要议题。






