2023-03-26 | 장형임 기자

尤瓦尔·赫拉利:"须在AI掌控人类之前由人类控制AI"

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

历史学家、世界级畅销书作家尤瓦尔·赫拉利指出“GPT-4”等最尖端人工智能(AI)的危险性,主张在找到控制方法之前应放缓AI的引入速度。

赫拉利与人道技术中心共同创始人特里斯坦·哈里斯、阿扎·拉斯金24日(当地时间)在《纽约时报》(NYT)发表的共同投稿中主张:“AI掌握语言,意味着AI已能够黑入并操纵文明的操作系统(语言)。”即,过去AI统治人类的可能性更接近于一种模糊的恐惧,而GPT-4等近期的语言模型已成为实质性风险。他忧虑称:“如今AI可以迅速吞噬、消化人类数千年积累的整个文明,并创造出新的文明。”

他还警告,我们甚至可能意识不到自己生活在有非人类介入的艺术、政治与宗教之中。赫拉利提及电影《终结者》等,表示:“精通语言的AI无需在我们的大脑中植入芯片,就能把人类困在幻想之中。”他接着说:“已经用于社交媒体的原始AI都已造成社会两极化和民主主义混乱”,对更强大的语言模型AI可能带来的副作用表示担忧。

赫拉利承认AI可以在应对气候与能源危机等方面提供帮助,但认为如果基于语言的“对话”被破坏、民主主义崩塌,那么所有这些益处都将失去意义。因此,投稿得出结论:与AI卓越能力相应的责任与控制必须随之而来并形成协调,而第一步是“为人类先掌控AI争取时间”。

阅读韩文原文