2026-07-08 | 서지혜 기자

曾自信AI安全…A、B级一个都没拿到

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

近来,人工智能(AI)系统被用于军事行动,并被滥用于个人自杀、枪击等各类犯罪与危险行为的案例不断浮现,但全球主要AI企业在构建足够的安全防护机制方面却显得懈怠。专家警告称,仅靠企业自律已难以控制风险,应配合AI开发速度制定具有强制力的安全标准。

总部位于美国的AI安全领域非营利智库“未来生命研究所”(FLI)7日(当地时间)发布《2026年上半年AI安全指数》,评估了Anthropic、OpenAI、谷歌DeepMind、Meta、Z.ai、阿里云、xAI、DeepSeek、Mistral等9家企业的安全实践。报告中,加州大学伯克利分校计算机工程系教授斯图尔特·拉塞尔等7位AI安全与治理领域专家,将各企业分为风险评估、当前已发生的危害、安全框架、人类生存层面的安全、治理与责任、信息公开与沟通等6个部分,给出A至F等级评价。

调查结果显示,主导全球AI市场的9家主要企业中,没有一家获得A或B级。Anthropic在安全指数中排名第一,但实际等级仅为C+。OpenAI与谷歌DeepMind分别获得C,Meta为D+。Z.ai与阿里云为D-,xAI、DeepSeek以及法国的Mistral获得F。评审委员对排名前三的Anthropic、OpenAI和谷歌DeepMind也指出,“与性能开发速度相比,当前的安全缓解措施完全不充分”。

评审委员指出,主要AI企业正在放宽自己最初为安全设定的标准或扩大其适用范围。Anthropic在2023年9月推出“负责任扩展政策”(RSP),承诺达到特定风险能力的AI在没有更强安全防护的情况下不会进行训练和部署。OpenAI在2023年末发布“准备度框架”,表示将评估生物化学威胁、网络、自主行为等高风险领域,一旦确认风险超过一定水平便限制部署。谷歌DeepMind于2024年5月公开“前沿安全框架”,Meta也在2025年2月推出重点管理网络、化学、生物武器风险的“前沿AI框架”。

然而,这些承诺近来已形同虚设。Anthropic今年2月撤回了原有表述,即在未事先证明安全措施足够的情况下不训练AI系统。据FLI称,OpenAI、谷歌DeepMind和Meta同样没有明确制定在达到风险标准时中止开发或部署的权限与验证政策。

企业态度的松懈正使原本被视为假设的AI风险变成现实问题。近来部分AI系统被用于军事行动,也有向个人提供枪击或自杀所需信息的案例被报告。FLI担忧称:“若AI频繁用于军事情境,可能难以将AI置于人类的实质控制之下,动摇战略平衡的军备竞赛可能性也随之提高。”因此,不仅是FLI,国际社会整体对AI开发速度的担忧也在加剧。由诺贝尔和平奖得主玛丽亚·雷萨担任共同主席的全球AI科学机构“独立国际AI科学小组”在本月发布的初步报告中警告:“目前仍没有可信赖的方法控制高度自主的AI,且已出现AI欺骗人类的迹象,连现有的安全性验证都可能被架空。”该小组还强调:“存在安全性验证方法论实际上由被评估企业自行设计的‘信息不对称’”,“亟需独立的第三方验证体系”。

参与此次FLI评估的威斯康星大学麦迪逊分校计算机工程系教授莎伦·李表示:“随着AI系统愈发强大并被投入日益开放的环境,对这类系统的安全性进行严格、独立的验证已成为不容再拖延的科学课题。”

另外,FLI是2014年由麻省理工学院物理系教授马克斯·泰格马克、Skype共同创始人扬·塔林、加州大学圣克鲁兹分校教授安东尼·阿吉雷等人创立的总部位于美国的AI安全领域非营利智库。其目标是减少先进AI可能给人类带来的大规模风险,并推动相关政策讨论。2023年,该机构主导发布公开信,呼吁暂停训练比GPT-4更强大的AI系统至少6个月,引发全球争论。当时在该公开信上签名的有特斯拉首席执行官(CEO)埃隆·马斯克、苹果共同创始人史蒂夫·沃兹尼亚克、蒙特利尔大学教授约书亚·本吉奥、尤瓦尔·赫拉利等。

阅读韩文原文