2025-04-27 | 최성욱 기자

“诺奖”得主辛顿:“AI是幼虎”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

去年获得诺贝尔物理学奖的加拿大多伦多大学教授杰弗里·辛顿表示,当前的人工智能(AI)就像"幼虎",再次警告其危险性。

辛顿教授在26日(当地时间)播出的美国CBS新闻采访中担忧地表示:"AI技术的迅速发展可能威胁人类。"辛顿教授在AI学习所需的核心技术——大规模语言模型(LLM)开发中发挥了先驱作用,同时也是多次公开警告AI危险性的代表性"末日论者"(doomer,人工智能毁灭论者)。

他为确立AI机器学习基础做出了重大贡献,曾在谷歌担任副总裁,2023年与谷歌分道扬镳后,他反复警告AI可能超越人类的危险性。他在此次采访中就人类享受当前迅速发展的AI技术的处境解释称:"从情感上最容易理解的方式,就是设想我们是养了一只非常可爱的幼虎的人。"他还表示:"如果你不能确信这只幼虎长大后不会杀死你,你就应该担心。"

辛顿教授还警告,AI最终从人类手中夺走控制权的风险存在10%至20%的可能性。他指出:"人们尚未理解这一点,也不明白将要发生什么。"

辛顿教授批评称,包括他曾任职的谷歌以及埃隆·马斯克的xAI、萨姆·奥尔特曼的OpenAI等代表性科技巨头虽然也意识到这些担忧,但这些企业将收益置于安全之上。他表示,这些大企业"正在游说减少对AI的监管","尤其对谷歌改变其在AI技术军事用途上的立场感到失望"。他接着强调:"AI企业应大幅提高投入安全性研究的资源和能力比重","应将三分之一的计算能源投入安全性研究"。

阅读韩文原文