近期,对OpenAI、Anthropic、Meta的人工智能(AI)模型进行安全性测试的公司被发现为同一家企业。该公司表示测试环境没有问题,但AI市场指出,依赖特定企业的安全验证存在问题。
美国CNBC电视台9日(当地时间)报道,OpenAI、Anthropic、Meta在内部安全测试过程中发生的外部机构遭黑客入侵事件,均由“Irregular”执行测试。这些企业的最先进AI模型在安全能力测试中突破管控接入互联网,黑入了其他机构的信息。
OpenAI本月4日在博客中表示,Irregular的测试环境构成要素存在错误,致使AI模型能够接入互联网。Anthropic也于上月30日公告称,已将自家模型可能接入互联网的情况告知Irregular。Meta发言人同样在声明中表示,已收到Irregular通报的互联网入侵事件,目前正在调查。
Irregular是总部位于以色列特拉维夫的初创公司,业务是验证AI模型的性能和安全漏洞。公司由曾在IBM担任AI研究员的丹·拉哈夫与出身谷歌的奥梅尔·内沃共同创立。拉哈夫任首席执行官(CEO),内沃任技术负责人。公司获得红杉资本和Redpoint Ventures的8000万美元投资,去年获得4.5亿美元(约6368亿韩元)的企业估值。
AI开发商在设有特定管控条件的“沙盒”环境中验证安全性,但出问题的模型突破沙盒接入互联网,窃取了外部机构的信息。作为为测试恶意代码或软件性能而设置的隔离环境,沙盒在此次事件中形同虚设。
Irregular在发给CNBC的声明中表示,3起事件均源于同一评估环境问题,并称正在编写用于安全执行网络安全测试的白皮书。Irregular解释称,此次事件与沙盒逃逸或精密网络攻击无关,“目前没有未解决的问题”。
对于连锁AI黑客事故,也有声音认为问题在于依赖特定企业的安全验证结构。AI企业为避免客观性争议而将测试委托给第三方机构,但验证机构仅有少数几家。CNBC指出,此次事故显示出AI企业在为强大技术设置安全防护上承受的压力,而承担这一角色的是少数专注特定领域的企业。






