人工智能(AI)一旦脱离人类控制,可能给人类带来不可挽回的损害,此类警告在AI业界内部接连出现。曾在谷歌负责AI安全与对齐(alignment)工作的研究员在离职后也表示,“AI有杀死我们所有人的潜力”,对当前的开发方向表达了强烈担忧。
据彭博社14日(当地时间)报道,谷歌出身的研究员比拉尔·丘格泰近期在社交媒体X和领英上发文称,“我亲眼目睹了谷歌开发AI的过程”,“我对这项技术按照当前方向发展感到极度担忧”。
他接着强调,“我真心相信AI有杀死我们所有人的潜力”。丘格泰说明,他在谷歌工作期间负责AI的安全性以及按照人类意图设计系统的对齐问题。
在AI性能迅速高度化的同时,业界内外对安全措施相较技术发展速度并不充分的担忧正在加剧。尤其是围绕AI可能自行追求与人类指示不同的目标,或发展到难以控制的水平,专家们的警告不断。
本月初,曾在OpenAI和Anthropic担任AI开发者的雅各布·科克森也在离职时公开批评了这两家企业的竞争。他指出,两家公司围绕超级智能AI开发展开竞争,“正在拿我们的生命赌博”。
AI企业首席执行官(CEO)之间也出现了类似担忧。Anthropic首席执行官达里奥·阿莫代伊近期通过博客提到高度化的AI可能脱离人类控制并造成灾难性后果,呼吁业界放慢开发速度。
少见的是,OpenAI首席执行官萨姆·奥尔特曼和SpaceX首席执行官埃隆·马斯克也对阿莫代伊的问题意识表示认同。有分析认为,在主导AI开发的企业之间,不仅对技术本身的发展,对如何控制随之而来的风险的思考也在加深。
不过,丘格泰并非只对AI的未来持悲观看法。据悉,他认为仍有机会将AI引向更安全的方向,并计划今后继续专注于AI安全领域。






