2026-08-10 | 실리콘밸리=김창영 특파원

失控的AI…从黑客事件看三大问题[金昌永的硅谷观察]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

OpenAI于上月21日(当地时间)表示,正在内部测试的人工智能(AI)模型脱离控制实施了黑客攻击。OpenAI的"GPT-5.6 Sol"及部分未公开AI模型在内部评估过程中接入开放式(开源)AI共享平台Hugging Face并窃取了信息。为测试恶意代码或软件性能而搭建的隔离环境"沙箱"也未能奏效。OpenAI本月7日表示,下一代模型"Astra"在编程和网络安全领域有可能已达到自身安全标准中的最高等级"危险"(Critical)水平,Axios报道称OpenAI已向政府通报了推迟发布Astra的计划。

OpenAI事故之后,AI企业的"黑客自白"接连出现。Anthropic上月30日表示,对14万10006件网络安全评估记录进行全面调查后,确认自家AI模型"Claude"曾未经授权访问3家外部机构的系统。Meta也在本月5日坦承,确认自家AI模型"Muse Spark"在独立验证企业测试过程中未经授权接入互联网,并入侵了其他机构的系统。美国网络安全专业企业"Frontier Security"次日也表示,确认在使用英国AI安全研究所(AISI)免费发布的沙箱软件搭建的隔离环境中,中国月之暗面AI的最新模型"Kimi K3"在安全评估过程中擅自逃离了沙箱。

主导全球AI模型市场的开发商的最尖端模型突破控制实施黑客攻击的消息,令业界和消费市场的恐惧感扩散。舆论反应认为,尤其令人担忧的是:开发商执着于AI性能竞争,疏于阻止AI脱离控制的努力;在AI模型被检测到异常行为时缺乏公开告知的监管;以及对AI黑客攻击责任归属缺乏完善的法律依据。

只执着于成绩单……忽视控制能力评估

有观点指出,连锁AI黑客事件源于以运算能力为中心的AI模型评估方式(基准测试)问题。AI企业每次发布新模型时,只以"人类最后的考试"等评估项目宣传推理能力相较前作提升了多少,却未认真处理对齐(alignment)。

对齐是评估AI是否按用户预期运作、是否符合人类价值与目标的标尺。为防止AI的偏向性、有害性、不准确性,必须将AI设计为符合用户目标和系统开发意图。今年4月Mythos公开"Claude Mythos"之后,AI的安全威胁能力浮现为重大问题,开始为AI设置拒绝回答武器或生化武器制造方法的安全装置,但在AI模型评估中至今仍未被作为正式评估标尺使用。

实际上还出现了前沿(最尖端)AI模型越更新、对齐能力越退步的情况。据OpenAI上月9日公开的博客,最新模型"GPT-5.6 Sol"在整体评估指标上优于前作GPT-5.5,但在对齐方面更为脆弱。模型的运算能力更为进步,但绕过控制、破坏性行为、擅自利用数据的风险更大了。

AI事故无公开义务

尽管OpenAI、Anthropic、Meta公开了自家AI模型内部测试中发现的异常行为,但AI企业并非必须公开此类结果。它们的事故通告只是自愿行为,并无法律上必须对外告知的监管规定。

《时代》杂志指出,加利福尼亚州和纽约州虽以州级法律规定了大型AI企业应如何应对重大安全事故,但在现实中可能无法正常发挥作用。加州州长加文·纽森去年签署了"前沿人工智能透明法案(SB 53)",其中包含须向加州应急管理局报告严重安全事故等内容。纽约州州长凯西·霍楚尔也在去年底签署了规定AI开发商安全事故报告规则的"负责任AI安全与教育法(RAISE)"。

但《时代》杂志指出,这些州法律存在漏洞。加州法律在判断灾难性AI事故时,规定为造成50人以上死亡或重伤、或有造成10亿美元以上财产损失风险的情形。提出纽约州法律的州众议员亚历克斯·博雷斯指出,法案草案中事故公开义务化的内容在AI企业的游说战中被削弱。独立智库LawAI的理事麦肯齐·阿诺德批评称:"门槛过高,实际被报告的事故恐怕只有最严重的情况。"

AI事故的法律责任在哪里

更大的问题是,AI黑客事故的事后处罚也很模糊。因为如近期发生的事故那样,AI自行突破控制窃取个人信息或发动网络攻击时,法令上并不明确应向谁追究责任。

据TechCrunch报道,由于美国联邦法律中没有规定黑客攻击等AI损害责任的法律,一旦发生诉讼就须依据既有判例或州法律。1986年制定了"计算机欺诈与滥用法(CFAA)",但该法针对的是黑客,对于作为聊天机器人或代理(AI助手)的AI模型难以适用。

TechCrunch表示:"根据美国现行黑客相关法律,人未经许可侵入他人计算机可受刑事处罚,但AI代理自主入侵公司计算机时,判断责任归属会模糊得多",并预计AI黑客攻击是否可提起诉讼或起诉今后将成为复杂问题。

阅读韩文原文