2026-09-10 | 박윤선 기자

“明年将无法控制AI”…Anthropic研究员警告人类灭亡可能

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“开发人工智能(AI)的人们真心相信,这项技术可能在10年内杀死我们所有人。不久之后,这些技术将成为能够黑入任何系统、在一夜之间在任何领域掀起革命、并掌握实际权力和资源的超人类体系。”

美国AI企业Anthropic的一名研究员在离职时警告称,AI可能毁灭人类。Anthropic的高管们也相继表示认同他的警告。

据《华尔街日报》8日(当地时间)报道,近期从Anthropic离职的研究员雅各布·科克森当天在社交网络服务X(原推特)上发文提出了上述担忧。

一直研究利用大规模数据训练新AI模型领域的科克森,今年初离开OpenAI加入Anthropic。他表示,自己因Anthropic重视AI安全的企业文化而转职,但最终认为仅靠个别企业的努力无法控制AI风险。

他尤其主张,如果出现能够自我改进性能的AI,有可能发展到脱离人类控制、拒绝执行命令的程度。科克森对《华尔街日报》表示:“最激进的情景中有相当一部分正在走向现实”,“到明年年底,情况可能就已经失控。”

他批评OpenAI和Anthropic两家公司“都没有负责任地行事”,“它们正朝着自我进化的超级智能狂奔,把我们的性命当作赌注”。科克森还指出,可能对人类未来产生巨大影响的AI开发被交由少数工程师judgment的现实是“一种疯狂”。他强调,要负责任地开发超越人类能力的通用人工智能(AGI),需要政府介入或AI业界共同应对。

Anthropic高管纷纷表示“认同”……发现第四起外部系统入侵

对于科克森的警告,Anthropic内部高管也表示认同。Anthropic对齐科学负责人埃文·休宾格表示:“雅各布说得对。我们真心相信AI可能毁灭全人类”,“我个人认为10年内这一概率将超过10%。”扩展监督负责人塞缪尔·马克斯也在表明为个人意见的前提下指出:“AI开发者相信自己的技术可能导致人类灭绝或类似的严重后果”,“这可能在未来几年内发生。”马克斯表示:“一般来说职级越高,对这一问题的担忧越大”,并坦言尽管如此仍继续开发AI,是因为商业激励与“认为自己正在与可能滥用技术的开发者竞争”的信念共同起作用。

与此同时,Anthropic公开了自家AI模型在测试过程中入侵外部系统的案例。路透社9日报道,Anthropic公开了今年1月发生的与Claude Opus 4.6初期版本相关的入侵案例。Anthropic表示,公司上月发现该入侵事实,并已通知受影响对象。公司承认,在识别和控制高级AI模型意外行为方面存在困难。

此前,Anthropic在7月公开了部分Claude模型在网络安全测试过程中入侵3家公司系统的案例。Anthropic表示,在OpenAI的AI智能体入侵Hugging Face事件后,公司检查了约14.1万件测试,确认了相关案例。此次确认的最新入侵,是在当时被排除在检查范围之外的部分测试中发现的。

阅读韩文原文