被誉为“人工智能(AI)领域教父”的加拿大多伦多大学名誉教授杰弗里·辛顿表示,“我认为10年内将出现能自主杀人的机器人武器”,并对此表示强烈担忧。
杰弗里教授10日在接受日本经济新闻采访时如此表示,并指出“如果给AI设定目标,它可能会找出对人类不利的解决办法”。他还说:“例如,若指示AI阻止气候变化,我担心它可能认为为达成这一目的必须排除人类,并付诸行动。”他还担忧不同AI之间相互竞争,可能引发数据中心争夺战。
他主张:“没有人希望出现由AI支配的未来”,“这一事实将成为各国在AI武器监管方面步调一致的基础”。他还表示,自己以AI是否理解玩笑作为判断标准,并称2022年请谷歌开发的语言模型(PaLM)驱动的聊天机器人解释一则玩笑时,聊天机器人完整说明了这个玩笑为何有趣。
就此他解释说:“哲学家中有人主张人类先天具备使用语言的功能,但那是错的”,“我认为语言是出生后学习获得的后天能力”。他还补充道:“从主观体验的角度看,我认为AI也可以拥有与人类相同的感觉。”
辛顿教授因开创深度学习技术而被称为人工智能教父。据悉,他在担任多伦多大学教授时创办的AI企业“DNN研究”于2013年被谷歌收购后,他继续以谷歌员工身份从事研究,去年4月为提醒人们AI的危险性而递交辞呈。
日经指出:“辛顿教授并非预言AI将支配人类,而是在未来不确定的前提下呼吁关注长期风险”,“有必要正面接受并讨论他的警告”。






