开创深度学习技术的加拿大多伦多大学名誉教授杰弗里·辛顿担忧称:“生成式AI有可能超越人类智能并支配人类社会。”
辛顿教授在4日《读卖新闻》刊登的采访中表达了这一担忧:“我不知道人类该如何应对被比自己智能更高的数字存在夺走人类社会的威胁。”
他表示:“生成式AI聊天机器人ChatGPT已能积累相当于人类大脑数千倍的知识”,“最早在2020年代就可能在多方面超越人类能力。”
关于生成式AI可能带来的具体风险,他首先列举了威权主义政府操纵舆论等利用假新闻操纵选举的隐忧。
辛顿教授还表示:“在美国,主要政党之一为了在选战中占据有利地位,正在容许虚假信息扩散。”
同时他表示,正如伪钞被法律禁止一样,“希望能有将虚假视频的制作与持有定为违法的法律”。
他还将搭载AI的武器系统列为另一风险,并警告称,若AI自动设定攻击目标的系统投入实用,战争将变得无法控制。
他还担忧AI夺走人类岗位,导致贫富差距扩大。
他指出,为将风险降至最低,政府机构等应作出妥善应对,同时有必要为全球研发竞争踩下刹车。
辛顿教授呼吁:“现在的对策并不充分”,“人类需要转变方向。”
但他表示:“巨头企业与各国相互展开研发竞争,监管非常困难”,对今后局势发展难以乐观。
辛顿教授是开创深度学习技术、被称为人工智能(AI)教父的专家。据悉,他在担任多伦多大学教授期间创办的AI企业“DNN研究”于2013年被谷歌收购后,他继续以谷歌员工身份从事研究活动,今年4月为提醒外界警惕AI的危险性而提交了辞呈。






