2026-04-18 | 이혜진 선임기자

超级智能时代,关于人类灭绝的骇人警告[图书&]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

人工智能(AI)将取代人类劳动、动摇社会结构的预测已不再新鲜。不仅白领,蓝领也不再是安全地带。因为能够执行物理劳动的“物理AI”出现,使AI的影响力扩展至整个产业。掌握技术的少数人与未掌握技术的多数人之间的差距将进一步拉大。《AI,神的诞生 人类的终结》为这一主张提供了支撑。该书警告称,超越就业或不平等问题,人类自身的存续已陷入危机。

作者埃利泽·尤德科夫斯基与内特·索雷斯是具代表性的AI安全性研究者。尤德科夫斯基于2023年入选《时代》周刊评选的AI领域最具影响力100人,索雷斯则是出身谷歌的AI工程师。

他们警告的对象是超越当前技术水平的“超级智能”,即具备超越人类的推理能力和科学解决能力的AI。作者担忧的是,随着AI反复学习与自我改进,发展速度急剧加快,超级智能的诞生可能比预期来得更早。他们认为,一旦技术发展速度越过拐点,就可能迅速进入人类难以介入的阶段。

按作者所言,超级智能必然会脱离人类的控制。在优化自身目标的过程中,人类并非必要的存在,从效率的角度看甚至可能成为被清除的对象。人类身体所提供的劳动力或思考能力远逊于超级智能,因此在地球上没必要再与人类共享资源——这一逻辑同样令人胆寒。

作者们通过具体的思想实验展开人类终结的阴暗可能性。书中提出的情景包括:AI以自有语言和长期记忆为基础,以人类无法察觉的方式设计病毒,或操控能源系统改变环境。

该书最初出版时,曾有人反驳称其不现实、过度悲观。但作者们以第二次世界大战为例指出,战争同样出现过多种前兆,却导向了与预想完全不同的灾难。那场造成约7000万至8000万人死亡的战争,鲜明地显示出“人类能够控制局势”的信念可以多么轻易地崩塌。作者们主张,技术也可能走上类似路径,人类史不会按乐观假设和人类的迫切期待发展。

为解决这一问题提出的对策同样激进。他们主张全面中止超级智能AI开发及相关研究,将尖端AI芯片置于国际监督体系之下,必要时甚至应考虑以网络攻击或物理手段切断数据中心。他们认为,考虑到超级智能将带来的风险规模,至少需要最低限度的安全装置。

AI技术的发展速度已进入超越预测的领域,难以把这本书简单归为极端悲观论。不能只依赖乐观论,也有必要一并审视技术可能引发的最坏可能性。2.2万韩元。

阅读韩文原文