2025-03-20 | 최수문 선임기자

尤瓦尔·赫拉利:“AI威胁与机遇并存…应基于对人类的信任来开发”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

全球畅销书《人类简史》《智人之上》等作者、以色列历史学家尤瓦尔·赫拉利强调,人工智能(AI)既有威胁也有机遇,必须有所准备。威胁在于AI可能超越人类,机遇则在于AI革命可能带来与工业革命相媲美的全球秩序重组。

他说:“未来尚未确定。最终取决于我们在今后几年内做出什么决定。重要的不是无条件的乐观或悲观,而是我们自己选择承担责任。我们面前有多条道路。承担起我们面前的责任,这将决定未来。”

为宣传新书《智人之上》而在韩国、日本、中国巡访的赫拉利,20日在首尔钟路区苑西洞卢武铉市民中心面向韩国媒体举行了记者座谈会。他最具代表性的作品《人类简史》(2015年)讲述的是通过创造和运用故事而成为最终胜者的人类智人,而新近出版的《智人之上》(2024年)则探讨与试图超越智人的AI共存的问题。他在韩国也人气颇高,此次访韩是2017年以来首次。

赫拉利表示这是他第三次来韩国,以此表达亲近感,随后就近来成为全球关注焦点的AI未来展开了其一贯的“慎重论”。他强调:“人类自有史以来发明了许多‘工具’,但AI并不止于工具,反而可以说是行为主体。此前的工具,其用途的决定权无论如何都掌握在人类手中。但如今首次出现了工具自身拥有决定权的AI”,“具备高度智能的独立行为主体正被释放到世界上。如果既无法预测它会做什么,也无法加以控制,该怎么办?”

那么,为何人人都急于开发如此危险的AI?赫拉利认为,这源于对人类的信任不足与不安。大多数AI相关企业的首席执行官(CEO)和国家领导人都知道AI是危险技术、应慎重开发,但担心落后于竞争企业和国家的不安始终潜伏在他们之间。

他指出:“于此产生了‘信任悖论’——不信任同类人,却信任像外星人一样拥有智能的AI”,并解释称:“首先必须建立人类之间能够彼此信任的基础。如果AI是在相互猜疑与冲突中诞生的,那么这样的AI也无法被信任。”

尽管持慎重论,他也提出AI将在未来带来巨大变化的展望。他解释称:“或许19世纪工业革命时发生的事情会重演,也就是先行工业化国家与未工业化国家之间的关系”,“如果说过去工业革命成功的国家称霸了世界,那么如今在AI上领先的两三个国家可能压倒全世界”。

还有提问询问他如何看待韩国发生的紧急戒严与弹劾局面。赫拉利回忆称:“最初听说韩国发生戒严时,我以为是早该发生的事发生了。于是我问‘在北韩?’结果说不是,是南韩。当然,即便如此我也并不惊讶。”他随后以“我对韩国政治并不了解,也不是专家”为前提,解释称现任权力层为维持权力而发动的亲卫政变,“在民主社会中一直都有”。也就是说,虽然是民主社会,但由于权力只能在有限时间内享有,人物或政党若不愿交还权力,往往会破坏制度与法律。他指出:“若没有自由的新闻和独立的司法,选举就可以随意操纵。北韩和俄罗斯就是例子。”

他还继续批评了利用AI制造假新闻的问题。他强调:“AI能够快速准确地生产信息,人类的能力难以企及。但这样的信息并不保证真实”,“如果社会不为守护真相而投入,真相将被埋没在垃圾信息的海洋中。这就是应当投资于‘新闻人’而非AI新闻的理由。”

阅读韩文原文