2024-10-10 | 토론토=정혜진 기자

诺贝尔奖得主杰弗里·辛顿“在边缘坚持50年的动力是好奇心” [专访]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

被称为“人工智能教父(Godfather of AI)”的多伦多大学名誉教授杰弗里·辛顿,成为首位获得诺贝尔物理学奖殊荣的计算机科学家。

继2018年共同获得被称为计算机科学界诺贝尔奖的“图灵奖”之后,他又共同获得了诺贝尔物理学奖。8日(当地时间),瑞典皇家科学院诺贝尔委员会方面表示:“高度评价其在‘使利用人工神经网络的机器学习成为可能的基础性发现与发明’方面所作出的卓越贡献。”

科学界对计算机科学家获得物理学奖也表现出惊讶的反应。诺贝尔委员会表示:“AI看似与物理学无关,但辛顿教授在开发‘玻尔兹曼机(一种能够从大规模数据集中学习并提取模式的神经网络模型)’时使用了物理学的基本概念和方法”,强调其研究的根基在于物理学。次日,谷歌DeepMind首席执行官(CEO)戴米斯·哈萨比斯又被共同选定为诺贝尔化学奖得主,由此可以确认,近几年已成为不可逆潮流的AI正在无边界地影响着所有学科领域。

辛顿教授获得诺贝尔物理学奖,既是曾处于AI研究边缘的“深度学习”跃升为主流的过程,也被视为一位科学家在长达近半个世纪的“AI寒冬”中不曾气馁、凭斗志创造的逆转剧。

本报曾在生成式人工智能(AI)热潮之前的2022年7月,在加拿大多伦多辛顿教授的住所对其进行了超过一小时的独家专访,丰富呈现了他作为科学家的历程与未来愿景。(采访是在ChatGPT发布(2022年11月)、离职谷歌(2023年5月)之前进行的。)值辛顿教授获诺贝尔奖之际,让我们通过这次采访,回顾他从未被书籍介绍过的科学家之路。

一位科学家执着的好奇心萌发出的深度学习

“发掘由好奇心引领研究的基础研究者并持续予以支持,是最重要的。那正是能够引发重大突破(breakthrough)的核心之处。”

平素言谈高效而节制的多伦多大学名誉教授杰弗里·辛顿,在2022年7月19日(当地时间)于加拿大多伦多住所接受Seoul Economic Daily超过一小时的采访中,五次强调了“由好奇心引领的研究”。

这是辛顿教授首次接受韩国媒体的面对面采访。2012年,辛顿教授通过当时学界尚未通行的利用深层神经网络(deep neural networks)的学习方式——深度学习,划时代地提升了图像识别成功率,引领了AI的复兴期。

这源自他作为研究者走过的半个世纪的经验。1978年他在英国爱丁堡大学取得人工智能(AI)领域博士学位时,无人关注他。当时学界的主流是“符号主义人工智能(Symbolic AI)”路径,即认为只要让机器学习人类制定的规则,就能据此进行推理。但他没有追随学界的流行。吸引他的是对“人类大脑如何运作”的无尽追问。对心理学与生物学理解颇深的他确信,人脑运作的方式与符号主义路径不同。为寻找让AI像人脑一样学习的方法,他研究了当时仅存于理论中的以深层神经网络为基础的深度学习。此后,他在美国卡内基梅隆大学开始教授生涯,1987年落脚加拿大多伦多大学,在2012年以压倒性的识别成功率差距赢得全球最大图像识别竞赛“ILSVRC”之前,他在边缘地带默默坚持研究了35年。2015年他与杨立昆、约书亚·本吉奥共同在《自然》杂志上发表深度学习论文,2016年与李世石九段展开世纪对决的AI阿尔法围棋(AlphaGo)为大众所知,他由此成为今日AI热潮的先驱。

辛顿教授说,让自己始终执着于研究的动力是“想知道大脑如何运作的好奇心”。把好奇心转化为韧劲的,是童年的领悟对一生的影响。他回忆道:“七岁时第一次上的学校带有宗教色彩,与原封不动接受学校说法的同学不同,我并非如此”,“那时第一次产生任何人都可能出错的想法,这段经历成为我抱着‘其他研究者也可能是错的’的想法持续研究的基础”。

许多大家虽曾有过耀眼的研究成果,但“被引用次数”渐渐减少,终成过去的历史;而辛顿教授至今仍对后辈研究者产生巨大影响。据谷歌学术,辛顿全部论文被引用次数85万3582次(截至2024年10月)中,高达65%的56万105次发生在最近5年。这是足以令所有研究者叹服的仍在进行中的成就。

6页提案也能获3~5年稳定资助……造就多伦多的优势

他离开美国定居加拿大,是因为基础科学领域有稳定资助的环境。辛顿教授说:“虽然资助规模不及美国,但加拿大把相当大一部分投资投向基础研究”,“美国的教授几乎要把大部分时间花在撰写申请研究资金的提案上,而在加拿大只需提交约6页的提案就能获得3~5年的资助”。他解释说,这是一种不限制研究主题、为研究者提供基本资助以满足其纯粹好奇心的结构。此外,加拿大包括基本医疗保险在内的优良社会保障体系、对移民友好的制度等也影响了他的决定。他指出:“加拿大几乎是唯一对移民友好的国家”,“拥有多样性极高的文化和热情欢迎的氛围,对全世界的科学家都非常有吸引力”。他还补充说:“目前我也和多位优秀的伊朗科学家共事,如果是在美国,这不会那么容易。”

辛顿教授表示,加拿大政府对成果或目标导向态度保持警惕的基础研究投资,造就了今天作为AI领域领导者的加拿大。加拿大于2017年在全球率先制定了全国性AI战略,首年将1亿2500万加元(约1275亿韩元)集中投向辛顿教授领导的Vector研究所以及位于蒙特利尔的Mila研究所、埃德蒙顿的阿尔伯塔机器智能研究所(AMii)等。加拿大政府今年将投资规模扩大至4亿4300万加元。

对于提出培养AI人才、吸引优秀人才的韩国政府,他也建议把基础研究投资放在优先位置。

他强调:“韩国也在涌现像赵博士(纽约大学教授赵京铉)这样出色的AI研究者,要吸引这些人才,企业对基础研究的投资就必须增加。”他提到的赵教授是在机器翻译领域留下重要印记的代表性AI研究者。

辛顿教授表示:“对政界或政策负责人而言,说自己正在投资具体项目要容易得多”,并叮嘱不要陷入忽视基础研究重要性的诱惑。他特别以1982年日本政府以1000亿日元(约9700亿韩元)规模推进的第五代计算机项目为例指出:“以目标为中心的项目乍看不错,但拿不出任何成果。这种投资方式应当避免。”

巨匠的破坏性创新……仅靠深度学习并不够

开辟深度学习新天地的AI教父,关注点依然是“大脑如何运作”。

辛顿教授说:“地球上最大的人工神经网络用万亿量级的学习数据进行学习”,“考虑到寿命70岁的人一生仅活约20亿秒,大脑其实是用远少于人工神经网络的数据在学习”,他表示人工神经网络要达到像人脑那样学习的水平还有很长的路要走。

最近,他开始研究为给自己的深度学习模型带来最大成就的反向传播(Back Propagation)算法寻找替代方案。辛顿教授期待地表示:“反向传播在数据量大的庞大系统中有效,但替代性算法或许在小型系统中也能运作。”

谷歌的超大规模人工智能(AI)“PaLM”是辛顿教授饶有兴趣关注的深度学习研究商用化案例。这一拥有约5000亿个参数的超大规模AI能够分析并理解全世界的笑话,并说明其含义。辛顿教授强调这是巨大成就,称:“我原以为PaLM系统投入运行至少还要再花5年。”此外,他评价DeepMind开发的能够预测蛋白质结构的AlphaFold,达到了解决过去50年生物学最大问题的水平。(开发被他盛赞为巨大成就的AlphaFold的谷歌DeepMind首席执行官(CEO)戴米斯·哈萨比斯,也在辛顿获选次日被选为诺贝尔化学奖得主。诺贝尔委员会方面说明获选理由为,通过AI预测蛋白质结构并使我们能够设计自己的蛋白质,是对人类的巨大贡献。)

他所期待的AI应用领域,从医疗到应对气候变化危机十分广泛。辛顿教授预测:“除了医疗影像分析等在健康护理领域的应用,在药物设计等纳米技术层面的应用度也会更高。”他表示,还将可以通过侦测非法捕捞来保护海洋生物,或对同一农场的作物也量身定制喷洒最合适的肥料和农药以保护农作物。

他也谈了对部分人士提出的AI伦理的看法。他说:“如果AI系统出现偏向性,判别它很容易”,“与纠正人内心的偏向或偏见相比,修正AI系统的偏向性更为容易,因此可以持续加以改善”。此后,他于去年5月从谷歌离职,发出了更为独立的声音。

多伦多大学名誉教授杰弗里·辛顿是确立了“深度学习”概念——即人工智能(AI)也能以接近大脑的方式进行学习——的研究者,在学界被称为“人工智能教父(Godfather of AI)”。2012年,他在全球最大图像识别大赛ILSVRC上,通过当时尚未通行的深度学习算法引领AI学习,将图像识别率提高了10个百分点以上。谷歌收购了他的公司DNN Research,他自2013年起作为谷歌杰出研究员在谷歌Research旗下Brain团队领导基础研究。他不仅引领了图像分类、语音识别领域的革新,2016年因与李世石九段的世纪对决而为大众熟知的AI“阿尔法围棋(AlphaGo)”也带动了AI热潮。2018年,他获得了被称为计算机科学领域诺贝尔奖的图灵奖。

履历

△1947年生于英国布里斯托尔 △英国剑桥大学 △英国爱丁堡大学AI博士 △1982年美国卡内基梅隆大学计算机科学系教授 △1987年加拿大多伦多大学计算机科学系教授 △2012年赢得全球最大图像识别竞赛ILSVRC △2012年创办机器学习企业“DNN Research” △2013年谷歌杰出研究员 △2015年在《自然》杂志发表“深度学习”研究 △2017年主导创建AI研究所“Vector研究所” △2018年获图灵奖

阅读韩文原文