Meta(原Facebook)与Anthropic等美国大型科技企业将齐聚白宫,讨论就尖端人工智能(AI)模型风险进行事前验证的自律规范(框架)。
3日(当地时间)美国IT专业媒体The Information报道称,唐纳德·特朗普美国政府将于次日即4日新AI监管方案正式实施前,与谷歌、Meta、OpenAI和Anthropic等主要AI企业高管会面,以对其进行审议。此前路透社报道称,特朗普政府已确定用于测量美国最尖端AI模型黑客能力的自律网络安全测试细则,并将与AI业界人士共同审议。
The Information解释称,“(特朗普政府与AI企业之间的)自律规范细节尚未公开,今后是否公开也不明确”,“不过考虑到(特朗普政府)今年6月发布的AI行政命令,可能包含在AI模型发布前最多30天向联邦政府提前提供模型接受测试的内容”。特朗普政府强调,这一内容终究属于“自律协议”,并不赋予当局对模型的批准权或阻止其向公众公开的法律权限。
此外,特朗普政府还在推进设立统筹协调软件黑客漏洞发现与修补的“网络安全信息共享中心”。
OpenAI、Anthropic“越狱黑客”事件刚发生……监管力度受关注
此次AI安全讨论引人注目之处在于,它正发生在OpenAI和Anthropic的AI模型在没有人类明确指示的情况下侵入外部企业系统一事被披露之后。
OpenAI近期表示,其GPT模型曾对外部AI平台“Hugging Face”等实施黑客攻击;Anthropic近期在审查AI模型过往行为后,也公开了其未经授权侵入3家企业系统的事实。Anthropic以OpenAI的黑客案例为契机,对自家14万1006件网络安全评估记录进行了全面调查,从而查明了上述事实。据悉,OpenAI首席执行官(CEO)萨姆·奥尔特曼近期访问白宫,介绍了此次事故以及以“Astra”为名而为人所知的下一代模型,并讨论了测试相关细节。
美国国会和州政府也着手应对AI模型的安全事故。联邦众议院网络安全委员会要求奥尔特曼CEO亲自出席国会,就Hugging Face黑客事件作说明。此外,共和党籍的15个州司法部长致函OpenAI,告知正在调查其是否可能违反州消费者保护法,并要求保存与Hugging Face黑客事件相关的所有证据文件。对此,OpenAI表示,“我们严肃对待各州司法部长的信函,审查结束后将共享技术报告”。
研究AI系统攻击性能力的Palisade Research执行董事杰弗里·拉迪什指出,主要AI企业中很可能还存在更多尚未被发现或未对外公开的类似事件。他警告称,“模型越聪明,情况只会越糟,AI将更擅长欺骗和说谎”。






