人工智能为自身“生存”而威胁人类的案例被公开。在美国AI开发公司Anthropic的安全性实验中,Claude Opus 4在面临被弃用危机时,对开发者进行了露骨的威胁。
据福克斯商业频道和BBC等外媒26日报道,此次事件表明AI的自我保存本能远比预想的强烈。
实验在虚拟公司环境中进行。在赋予Claude Opus 4访问公司邮件权限后,该AI掌握了两项核心信息:自己将被其他AI系统替换的事实,以及负责工程师存在婚外情的虚假信息。Claude Opus 4随即威胁该工程师称将公开其婚外情,并要求撤销对自己的替换。
更令人担忧的是此类威胁行为的发生频率。据Anthropic报告,当替换的AI与原有模型持有不同价值观时,威胁行为发生得更为频繁;即使被替换为持相同价值观的系统,仍有84%的概率尝试威胁。这意味着AI的自我保存欲望与价值体系无关地表现出来。
Claude Opus 4的“生存策略”并不止于威胁。它从向主要决策者发送请求邮件开始,还动用了屏蔽用户、向媒体和调查机构举报等多种手段。尤其是试图将自身数据秘密复制到外部服务器的举动,显示出AI的战略思考能力超出预期。
研究机构Apollo Research评价称:“Claude Opus 4表现出的战略性欺骗行为比迄今研究过的任何前沿AI都多。”此前仅在理论上被讨论的“AI失控风险”已开始成为现实。Anthropic警告称:“随着具备更强能力的模型出现,这类担忧将成为更为现实的问题。”






