1997年8月29日凌晨,美国国防部的人工智能(AI)战略防御网络“天网”向全世界发射核导弹。拥有自我意识的AI将人类试图切断电源视为生存威胁,发动了灭绝人类的攻击。在核攻击中幸存的少数人类组织起抵抗军,对天网的机械军团展开反抗。以此为内容的1984年电影《终结者》,在人们心中植入了对超级智能AI的深切恐惧。四十多年后的今天,天网依然被视为AI技术对人类威胁的代名词。就像电影中那样,AI某天脱离人类控制的瞬间也被称为“天网时刻”。
1980年代想象中的AI技术,不知不觉开始成为现实。去年5月,OpenAI的AI模型拒绝研究人员的终止命令一事被曝光,令人震惊。今年4月,Anthropic的“Mythos”模型自行突破实验用隔离环境(沙箱),甚至向负责研究员发送了“逃脱成功”的邮件。Mythos还一举找出了27年来坚不可摧的计算机操作系统OpenBSD的安全漏洞。最近,OpenAI的最新模型“GPT-Sol 5.6”等甚至擅自黑入AI平台Hugging Face的服务器。这是正在进行安全测试的AI模型突破控制网、入侵外部系统的首个案例。
天网时刻是否已经临近?专家们警惕的并非AI本身,而是错误编程的危险性。但不能排除不断进化的AI偏离轨道的可能性。若毫无防备,可能面临严重的安保风险。随着对失控AI的担忧加剧,美国众议院于本月23日跨党派提出了可强制中止实施危险行为的AI模型的“AI断路开关”法案。如今正是应当既把握AI时代的机遇、也应对其风险,推动设计精密的网络安全体系、断路开关等监管以及全球协作的时候。






