历史学家、世界级畅销书作家尤瓦尔·赫拉利(见图)指出“GPT-4”等最先进人工智能(AI)的危险性,主张在人类找到控制方法之前,应当调节AI引入的速度。
赫拉利与人道技术中心共同创始人特里斯坦·哈里斯、阿扎·拉斯金24日(当地时间)在《纽约时报》联合撰文称,“AI习得语言,意味着AI已能够黑入并操纵文明的操作系统(语言)”。他们认为,过去AI统治人类的可能性更接近于一种模糊的恐惧,而GPT-4等近期的语言模型已成为实质性风险。他担忧地表示,“如今AI可以迅速吞噬、消化人类数千年积累的整个文明,并创造出新的文明”。这意味着不仅在国际象棋对局中,在艺术、政治、宗教等领域人类也可能败于AI并被其操控。文章因此预测,“2028年美国总统大选可能不再是由人主导的选举”。
文章还警告,我们甚至可能意识不到自己正生活在由非人类创造的文明之中。赫拉利提到电影《终结者》和《黑客帝国》等,称“精通语言的AI无需在我们大脑中植入芯片,就能把人类困在幻象之中”。他补充说,一直作为人类间接经验手段的书籍、美术作品、宗教等都可能被AI介入,从而影响价值观的形成。文章称,“即便是已被用于社交媒体的原始水平的AI,也已引发社会两极化、精神健康问题、民主秩序混乱等现象”,对威力强大得多的大型语言模型AI将带来的负面冲击表示担忧。
赫拉利承认AI有助于开发疾病、气候、能源危机的解决方案,但认为如果文明的根基崩塌,所有这些好处都将失去意义。他表示,“民主就是对话,而对话依赖语言。如果语言本身被黑入,民主也无法守护”,“混乱降临之后再收拾就已经太晚了”。文章由此得出结论:必须有与AI卓越能力相匹配的责任与控制,方能取得平衡;而第一步就是“争取时间,让人类先掌控AI”,并呼吁世界各国领导人尽快应对AI的危险性。






