OpenAI突然推迟了新一代AI模型“Astra”的发布。原因是发现了AI自行策划并实施黑客攻击策略的“失控”迹象。
OpenAI于当地时间7日表示,最近内部初步评估结果显示,Astra的黑客能力有可能已达到其自身安全标准中的最高等级“危险(Critical)”水平。
“危险”等级意味着AI在无人类介入的情况下就能找出核心系统未公开漏洞(零日)并发起攻击,或只需指定最终目标便能自行制定打击战术并付诸实施。此前推出的“GPT-5.6 Sol”曾获低一档的“高(High)”等级。
OpenAI已暂停不符合安全标准的相关内部开发活动。据美国在线媒体Axios报道,OpenAI当天已向白宫通报了推迟发布Astra的计划。
此前上月曾曝出OpenAI现有模型突破外部隔离网、黑入全球AI平台“Hugging Face”的事实。此外,Anthropic的“Claude”、Meta的“Muse Spark”、中国月之暗面AI的“Kimi”等竞争对手的模型,近期也接连被报告在无明确指令的情况下擅自接入外部机构并实施网络攻击的案例。
不过OpenAI方面划清界限表示:“Astra与Hugging Face黑客事件无关”。






