被视为人工智能(AI)领域教父的多伦多大学名誉教授杰弗里·辛顿警告AI的危险性,主张“我认为10年内会出现自主杀人的机器人武器”。
辛顿教授10日在接受《日本经济新闻》采访时说:“如果给AI一个目标,它可能会找出对人类不利的解决方法”,并如此表示。他以指示AI阻止气候变化为假设补充说:“我担心它会认为为实现这一目标需要排除人类,并付诸实行。”他还担忧,在不同AI相互竞争的过程中,可能出现数据中心争夺战。
辛顿教授还提出,作为生成式AI基础的大型语言模型(LLM)像人类一样理解语言,长期来看AI也可能拥有与人类相同的感觉。部分哲学家主张人类先天具备使用语言的功能,但他依据AI开发经验反驳称这是错误的。
判断AI是否理解人类语言的标准是玩笑。他表示,2022年他让基于谷歌开发的语言模型(PaLM)制作的聊天机器人解释玩笑时,聊天机器人把该玩笑为何好笑全部解释清楚了。
辛顿教授在担任多伦多大学教授时创办的AI企业“DNN研究”于2013年被谷歌收购后,他一直以谷歌员工身份从事研究活动。其间,他于去年4月为告知AI的危险性而提交辞呈。此后他留在加拿大,积极警告AI的危险性。
日经报道称:“辛顿教授并非预言AI将统治人类,而是在未来不确定的前提下呼吁关注长期风险。”并介绍称:“有必要正面接受并讨论他的警告。”






