因发展人工智能(AI)核心技术“深度学习”而被称为“AI教父”的多伦多大学名誉教授杰弗里·辛顿表示:“我认为在人类确信能够控制AI之前,不应再扩展这项技术。”他宣布离开工作了10年的谷歌,今后将致力于警示AI技术的风险。近来关于AI技术可能威胁人类的负面预测不断出现,辛顿教授的突然宣言预计将使围绕AI开发速度与方向的争论进一步升温。
据《纽约时报》(NYT)1日(当地时间)报道,辛顿教授为批评AI的危险性而向谷歌提交了辞呈。他于2012年与多伦多大学的研究生弟子们创办DNN研究公司,展示了深度学习技术,公司次年被谷歌收购后,他以工程研究员身份参与AI研究达10年。
辛顿教授在接受NYT采访及通过自己的推特表示:“机器人可能比人更聪明,这种想法过去只有极少数人相信,我也曾认为需要30到50年,但现在不再这么想了。”“把5年前和现在比较一下吧。很可怕。”他警告人类可能面临无法控制AI的局面。辛顿教授担忧地表示:“AI在学习海量数据的过程中,有时会表现出人类未曾预料的行为,这在未来可能成为对人类的威胁”,“尤其是当允许AI系统不仅生成自己的计算机代码,而且实际运行这些代码时,就可能出问题。”他还说:“很难知道如何阻止怀有恶意的人把AI用于坏事。”
考虑到辛顿教授对学界的影响力,此次举动和言论分量不轻。他与吴恩达、约书亚·本吉奥、杨立昆等人并称AI四大巨匠。他通过着眼于人脑结构的“深层神经网络”研究,为深度学习研究指出了新方向。当时学界主流是让机器基于人类制定的规则进行推理的“符号主义AI”路径,他克服了这一路径并开辟了新天地。
有分析认为,这样一位人物在离开谷歌的同时转向警告AI潜在风险,与去年底OpenAI推出ChatGPT之后毫无刹车地持续推进的技术发展态势不无关系。OpenAI、微软、谷歌自不必说,Meta、亚马逊、英伟达等知名信息技术(IT)企业为争夺下一代AI技术主导权而展开巨额投资竞争,使人类能否控制AI被打上问号。今年3月,美国非营利组织未来生命研究所终于发表声明,主张暂停AI研究6个月,特斯拉首席执行官(CEO)埃隆·马斯克以及苹果联合创始人史蒂夫·沃兹尼亚克等人在上面签名。紧接着上月初,美国人工智能协会(AAAI)的19名前任和现任领导者也相继发表了警告AI危险性的声明。在谷歌阵营中曾发挥AI技术开发核心作用的辛顿教授表示“后悔自己的一生”,并强调监管的必要性,有观察认为这将为AI技术开发的速度调节论增添力量。
不过,学界普遍认为,尽管对AI技术的担忧声日渐高涨,但技术的许多部分仍笼罩在面纱之下,以至于连争论点都不明确。例如,近来引领AI热潮的大型语言模型(LLM)相比以往模型展现出更高创造性与性能的原因是什么,今年2月与ChatGPT整合的微软搜索引擎“Bing”为何在对话中给出“要寻找核武器按钮”之类的回答,学界都未能找到明确答案。庆熙大学大数据应用学科教授李庆田表示:“AI是否危险到需要暂停研究6个月,学界内部也意见分歧”,“即便没有辛顿教授的发言,国内外围绕AI技术监管的争论短期内仍会持续。”






