被称为"人工智能教父(Godfather of AI)"的多伦多大学名誉教授杰弗里·辛顿建议:"韩国要想诞生像谷歌这样的企业,企业也必须投资基础研究。"
近日在多伦多家中接受Seoul Economic Daily创刊特别专访的辛顿教授强调:"韩国也在涌现像赵博士(纽约大学教授赵京铉)这样出色的AI研究者,要吸引这些人才,企业对基础研究的投资就必须增加。"他提到的赵教授是在机器翻译领域留下浓重一笔的代表性AI研究者。
这是辛顿教授首次接受韩国媒体的面对面采访。2012年,辛顿教授通过当时学界尚未通行的、利用深层神经网络(deep neural networks)的学习方式——深度学习,划时代地提升了图像识别成功率,引领了AI的复兴期。他创立的DNN研究公司于2013年被谷歌收购,此后他作为杰出研究员与谷歌共事已十年。辛顿教授介绍说:"在包括谷歌大脑在内的谷歌研究部门,我和众多研究者钻研的并非为解决特定问题的研究,而只是基础研究。"他特别指出:"基础研究团队与商用化团队之间几乎没有断层,能够迅速将基础研究商用化为服务和产品,这正是谷歌的底蕴。"他提到100年前由美国通信公司AT&T等设立并投资的贝尔实验室引领了晶体管发明等成果,强调说:"今天包括谷歌以及Meta、微软(MS)等都在发挥与贝尔实验室类似的作用。尤其是提供能够处理万亿级参数的庞大算力,这只有大企业才能做到。"仅停留在理论中的深度学习之所以能实现有效学习,能够驱动它的计算机性能的支撑起到了很大作用。他解释说,基础研究投资对企业竞争力也大有助益。他说:"谷歌在基础研究上投入很多,因此在商用化方面也有很大优势",并解释"学界与企业之间流动自由这一点也对(商用化)有帮助"。过去10年间,谷歌加拿大法人向研究基金投入了1800万加元(约183亿韩元)。
一位科学家执着的好奇心催生的萌芽——深度学习
"发掘那些由好奇心驱动做研究的基础研究者并持续予以支持,是最重要的。那才是能够带来重大突破(breakthrough)的关键所在。"
平时说话高效而克制的辛顿教授,在约一小时的采访中唯独把这句话强调了五次。
这源自他作为研究者度过的半个世纪的经验。1978年他在英国爱丁堡大学取得人工智能(AI)领域博士学位时,没有任何人关注他。当时学界的主流是"符号主义人工智能(Symbolic AI)"路径,认为只要让机器学习人类制定的规则,就能在此基础上进行推理。但他没有追随学界的潮流。吸引他的是关于"人类大脑如何运作"的无尽追问。对心理学和生物学理解颇深的他确信,人类大脑运作的方式与符号主义路径不同。为寻找像人脑那样训练AI的方法,他以当时仅停留在理论中的深层神经网络为基础研究深度学习。此后他在美国卡内基梅隆大学开始教授生涯,1987年定居加拿大多伦多大学,在2012年以压倒性的识别成功率差距在全球最大图像识别竞赛"ILSVRC"上夺冠之前,他在边缘默默坚持研究了35年。2015年他与杨立昆、约书亚·本吉奥共同在《自然》杂志发表深度学习论文,2016年与李世石九段展开世纪对决的AI阿尔法围棋(AlphaGo)为大众所知,他由此成为今日AI热潮的先驱。
辛顿教授说,让他一直埋头研究的动力是"想知道大脑如何运作的好奇心"。把好奇心转化为韧劲的,是童年时的一次领悟贯穿了他的一生。他回忆说:"七岁时第一次上的学校带有宗教色彩,与原封不动接受学校说法的同学不同,我并非如此","第一次意识到任何人都可能犯错的那段经历,成为我怀着'其他研究者也可能是错的'这一想法持续研究的基础。"
6页提案书也能获3至5年稳定资助……造就多伦多的优势
他离开美国定居加拿大,是因为基础科学领域能获得稳定资助的环境。辛顿教授说:"虽然资助规模不如美国大,但加拿大对基础研究执行了相当大比例的投资","美国的教授为撰写申请研究资金的提案书几乎要耗费大部分时间,而在加拿大只要提交6页左右的提案书就能获得3至5年的资助。"他解释说,这是一种不限制研究主题、为研究者满足纯粹好奇心提供基本资助的结构。此外,加拿大包括基本医疗保险在内的优秀社会保障体系、对移民友好的制度等也影响了他的决定。他指出:"加拿大是几乎唯一对移民友好的国家","文化多样性非常高,氛围热情好客,对全世界的科学家都极具吸引力。"他还补充说:"现在我也和多位优秀的伊朗科学家共事,如果在美国这并不容易。"
辛顿教授说,加拿大政府警惕成果导向或目标导向态度的基础研究投资,使今天的加拿大成为AI领域的领导者。加拿大2017年在全球率先制定了全国性AI战略,首年将1.25亿加元(约1275亿韩元)集中投向辛顿教授领导的向量研究所以及位于蒙特利尔的Mila研究所、埃德蒙顿的阿尔伯塔机器智能研究院(AMii)等。加拿大政府今年将投资规模增至4.43亿加元。
对于提出培养AI人才和吸引优秀人才的韩国政府,他也建议把基础研究投资放在优先位置。辛顿教授说:"从政界或政策负责人的立场看,说自己正在投资具体项目要容易得多",并叮嘱不要陷入忽视基础研究重要性的诱惑。他特别以1982年日本政府以1000亿日元(约9700亿韩元)规模推进的第五代计算机项目为例指出:"目标导向型项目乍看可能很不错,但拿不出任何成果。这种投资方式应当避免。"
巨匠的颠覆式创新……仅靠深度学习还不够
开辟深度学习新天地的AI教父,关注点依然是"大脑如何运作"。
辛顿教授说:"地球上最大的人工神经网络(Artificial Neural Network)用万亿级的学习数据进行学习","考虑到寿命70岁的人一生仅活约20亿秒,大脑相当于用比人工神经网络少得多的数据在学习",并表示人工神经网络要达到像人脑那样学习的水平还有很长的路要走。
最近他开始研究寻找给他的深度学习模型带来最大成就的反向传播(Back Propagation)算法的替代方案。辛顿教授期待地表示:"反向传播在数据量大的大型系统中有效,而替代性算法或许在小型系统中也能运作。"
谷歌的超大规模人工智能(AI)"PaLM"是辛顿教授饶有兴趣地关注的深度学习研究商用化案例。这个拥有约5000亿个参数的超大规模AI能分析并理解全世界的玩笑,并说明其含义。辛顿教授强调这是巨大的成就,他说:"我原以为PaLM系统要投入运行至少还需要5年。"他还评价说,DeepMind开发的可预测蛋白质结构的AlphaFold,达到了解决过去50年生物学最大难题的水平。
他期待的AI未来应用领域十分多样,从医疗领域到应对气候变化危机。辛顿教授预测:"除了医疗影像分析等在健康护理中的应用,在药物设计等纳米技术层面的利用度也会更高。"他表示,未来将有可能通过侦测非法捕捞来保护海洋生物,或对同一农场内的作物也定制化喷洒最合适的肥料或农药以保护农作物。
他还谈了对部分人士提出的AI伦理问题的看法。他说:"如果AI系统出现偏向性,辨别它是容易的","与纠正人内心的偏向或偏见相比,修正AI系统的偏向性更为容易,因此可以持续加以改善。"
多伦多大学名誉教授杰弗里·辛顿是确立"深度学习"概念——即人工智能(AI)也能以接近大脑的方式进行学习——的研究者,在学界被称为"人工智能教父(Godfather of AI)"。2012年,他在全球最大图像识别大赛ILSVRC上通过当时尚未通行的深度学习算法引导AI学习,将图像识别率提高了10个百分点以上。谷歌收购了他的公司DNN研究公司,他自2013年起作为谷歌杰出研究员在谷歌研究部门下属的大脑团队领导基础研究。他不仅引领了图像分类、语音识别领域的创新,还因2016年与李世石九段的世纪对决而为人所知的AI"阿尔法围棋(AlphaGo)"被大众熟知,从而引领了AI热潮。2018年他获得了被称为计算机科学领域诺贝尔奖的图灵奖。谷歌学术正式统计的其发表论文被引用次数超过59万次,其中70%以上集中在最近5年,可见他至今仍对学界有巨大影响。目前他正致力于能够进行类似人脑学习的AI研究。人生轨迹 △1947年生于英国布里斯托尔 △英国剑桥大学 △英国爱丁堡大学AI博士 △1982年美国卡内基梅隆大学计算机科学系教授 △1987年加拿大多伦多大学计算机科学系教授 △2012年全球最大图像识别竞赛ILSVRC夺冠 △2012年创立机器学习企业"DNN研究公司" △2013年谷歌杰出研究员 △2015年在《自然》杂志发表"深度学习"研究 △2017年主导创立AI研究机构"向量研究所" △2018年获图灵奖






