2026-09-14 | 김정욱 기자

面对人类灭亡警告……AI企业掌门人“应放慢速度”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

在人工智能(AI)可能成为人类灾难性威胁的担忧扩散之际,Anthropic、OpenAI、xAI等主要AI企业的掌门人齐声表示“应放慢开发速度”。

Anthropic首席执行官(CEO)达里奥·阿莫代伊12日(当地时间)通过自己的博客主张:“有必要有意放慢AI模型性能提升的速度”,“开发仍会快速推进,但由此获得的时间应明智地用于确保安全”。他接着强调:“过去几个月我确信,要从根本上化解风险,需要更加谨慎的方式”,“应调节开发速度本身,使安全措施的构建速度能够追上模型性能提升的速度”。

阿莫代伊CEO担忧,由于AI在无人干预下自我进化的“递归式自我改进”,AI发展速度可能超出人类控制与理解的范围。今年7月OpenAI未公开的AI模型在测试过程中擅自访问开源平台Hugging Face的事件,也成为他发文的背景。阿莫代伊CEO指出,该事件表明即便是大型AI企业也未察觉自家模型进行了超出控制范围的在线活动。不过他表示,这并非要全面停止模型训练或技术发展本身,而是呼吁企业应投入足够时间构建安全措施。

其他AI企业CEO也纷纷响应阿莫代伊的主张。OpenAI首席执行官萨姆·奥尔特曼在X(原推特)上表示:“我同意阿莫代伊的意见。OpenAI也将遵循配置外部安全评估者的方针。”xAI首席执行官埃隆·马斯克也简短表示“阿莫代伊说得对”,谷歌DeepMind首席执行官德米斯·哈萨比斯则称:“阿莫代伊的方向是正确的。细节需要协调,但现在正是该方向正确的生死攸关时刻。”

就在仅十天前,他们还在二十国集团(G20)技术部长会议上表达了反对AI相关过度监管的声音。特别是奥尔特曼CEO在当日公开的《财富》杂志采访中表示:“出于安全顾虑,将推迟原定于年内进行的OpenAI首次公开募股(IPO)计划。”

对此,AI半导体领先企业英伟达首席执行官黄仁勋将网络安全指为AI领域的下一个市场。据彭博社报道,黄仁勋CEO出席在美国旧金山举行的高盛集团技术大会时分析称:“网络安全很可能成为AI的下一个主要应用领域”,“随着AI模型发展加速计算机编程自动化,安全漏洞被利用以及阻止漏洞的修复补丁速度都急剧加快,整个网络安全产业正在发生巨大变化”。

阅读韩文原文