2024年诺贝尔物理学奖得主、加拿大多伦多大学名誉教授杰弗里·辛顿警告称,随着美国当选总统唐纳德·特朗普就任,人工智能(AI)的安全开发可能变得更加困难。
据《读卖新闻》3日报道,辛顿教授近期在接受该报采访时表示:“随着AI的进化,虚假信息和阴谋论扩散,正在威胁民主”,并强调开发企业应扩大对确保安全性的投资。他同时担忧,这类努力可能因特朗普就任而倒退。
特朗普方针是废除拜登政权推出的有关AI安全性的总统令。现行总统令规定开发企业有义务与政府共享重要信息等,而辛顿教授解释称,特朗普很可能允许AI企业摆脱这些义务、自由制定规则。他还针对美国OpenAI以及谷歌、微软,还有成为特朗普政府“核心人物”的特斯拉首席执行官(CEO)埃隆·马斯克等争相投入AI开发的局面批评称:“营利企业相互竞争,安全性就会被搁在后面”,“这与军备竞赛没有区别。”他进而主张,需要完善法律,强制各AI开发企业将其所拥有计算机处理能力的三分之一投入安全性研究。据辛顿教授称,目前用于安全性研究的计算机处理能力仅约1%,各企业需将规模提升至现在的30倍。
他还认为,拥有超越人类智能的AI在20年内诞生的概率超过50%。他表示这种存在最快可能在5年内诞生,并强调“有必要认真思考AI支配人类的可能性”。
他也提出,AI的进化虽带来减少医疗误诊、推进新药开发等正面作用,但该技术夺走的岗位将多于其创造的岗位。辛顿教授预测:“劳动者将失去工作,贫富差距将扩大。”
另一方面,关于中国的AI开发,他认为“投入的资金比美国更多”,“10年内很可能超越美国”。
辛顿教授是以生成式AI的基础技术“机器学习”研究著名的“AI教父”。去年5月,他为警示AI的危险性而从工作约10年的谷歌离职。






