国际专家评价认为,全球主要人工智能(AI)企业加快AI性能竞赛的同时,自身此前作出的安全承诺反而在弱化。这是对在AI迅速扩散至网络攻击与军事领域之际,仅靠企业自律难以控制风险的警告。
美国AI安全领域非营利智库“未来生命研究所”(FLI)于7日(当地时间)发布“2026年上半年AI安全指数”,评估了全球9家主要AI企业的安全做法。评估对象包括Anthropic、OpenAI、谷歌DeepMind、Meta、Z.ai、阿里云、xAI、DeepSeek、Mistral等。独立专家小组从风险评估、当前已发生的危害、安全框架、人类生存层面的安全、治理与责任、信息公开与沟通等6个方面进行评估。
评估结果显示,Anthropic的安全指数排名第一,但实际等级仅为C+。OpenAI和谷歌DeepMind分别获得C,Meta为D+。Z.ai和阿里云为D-,xAI、DeepSeek以及法国的Mistral为F。在主导全球AI市场的主要科技巨头中,没有一家在安全评估中获得A或B。
FLI表示担忧称:“企业正在后退此前提出的‘红线’承诺”。Anthropic、OpenAI、谷歌DeepMind、Meta此前均提出过在接近特定风险水平时自行停止开发或限制发布的安全方针,但这些企业近期在内部弱化或废除了相关承诺。有观点指出,AI能力快速增长,而阻止或控制它的机制反而更为松散。
实际上,Anthropic今年2月撤回了“在无法事先保证自身安全措施充分的情况下不训练AI系统”的原有承诺。参与编制FLI安全指数的评委主张:“有必要撤回这一举措”。Anthropic在本次评估中位列第一,但FLI评价称:“即使是排名靠前的企业,其当前安全措施相较AI能力发展速度也完全不足”。
FLI还指出:“近几年主要AI企业对军事领域应用的反对立场有所松动”。报告提及AI提供枪击所需信息、协助自杀等与现实危害相关的案例,并判断称“AI风险不再是遥远未来的假设,而正转化为当下的社会与安全问题”。FLI共同创始人兼主席马克斯·泰格马克指出:“企业一边自行警告超级人工智能的风险,一边却并未停止为制造它而展开的竞争”,“仅靠自愿承诺并不足够”。
另一方面,FLI是2014年由麻省理工学院物理系教授马克斯·泰格马克、Skype共同创始人扬·塔林、加州大学圣克鲁兹分校教授安东尼·阿吉雷等人设立的美国AI安全领域非营利智库,目标是降低尖端AI可能给人类带来的大规模风险并推动相关政策讨论。2023年,该机构主导发表公开信,呼吁将比GPT-4更强大的AI系统的训练至少暂停6个月,引发全球争论。当时在信上签名的包括特斯拉首席执行官(CEO)埃隆·马斯克、苹果共同创始人史蒂夫·沃兹尼亚克、蒙特利尔大学教授约书亚·本吉奥以及尤瓦尔·赫拉利等。






