历史学家、世界级畅销书作家尤瓦尔·赫拉利指出“GPT-4”等最尖端人工智能(AI)的危险性,主张在找到控制方法之前应放缓AI的引入速度。
赫拉利与人道技术中心共同创始人特里斯坦·哈里斯、阿扎·拉斯金24日(当地时间)在《纽约时报》(NYT)发表的共同投稿中主张:“AI掌握语言,意味着AI已能够黑入并操纵文明的操作系统(语言)。”即,过去AI统治人类的可能性更接近于一种模糊的恐惧,而GPT-4等近期的语言模型已成为实质性风险。他忧虑称:“如今AI可以迅速吞噬、消化人类数千年积累的整个文明,并创造出新的文明。”
他还警告,我们甚至可能意识不到自己生活在有非人类介入的艺术、政治与宗教之中。赫拉利提及电影《终结者》等,表示:“精通语言的AI无需在我们的大脑中植入芯片,就能把人类困在幻想之中。”他接着说:“已经用于社交媒体的原始AI都已造成社会两极化和民主主义混乱”,对更强大的语言模型AI可能带来的副作用表示担忧。
赫拉利承认AI可以在应对气候与能源危机等方面提供帮助,但认为如果基于语言的“对话”被破坏、民主主义崩塌,那么所有这些益处都将失去意义。因此,投稿得出结论:与AI卓越能力相应的责任与控制必须随之而来并形成协调,而第一步是“为人类先掌控AI争取时间”。






