希腊神话中的“塔罗斯”堪称人工智能(AI)的鼻祖。人形青铜巨人塔罗斯按照人类的命令,每天绕克里特岛三轮,忠实履行哨兵职责。它是负责国防与幸福的善的AI。随着时间流逝,如同青铜生锈,人们开始改变AI的功能,将其描绘为攻击并伤害人类的恶之怪物。
古代犹太教传承的“戈莱姆”即是代表。犹太人饱受种种屈辱与迫害之际,拉比用泥土造出戈莱姆,并在其额头刻上“埃梅特(真理)”字样。戈莱姆按人类指示做粗活,抵御外部入侵,充当守护共同体的角色。但只会执行命令、缺乏形势判断能力的戈莱姆开始对人类构成威胁。最终拉比擦去刻在戈莱姆额头上的“真理”二字,收回其生命,使之重归泥土。这或许是一记沉重的警告:追求最尖端的人类技术绝不可能成为绝对真理。
时代与国家不同,但“AI启示录”延续了下来。捷克剧作家卡雷尔·恰佩克在1920年的《R.U.R》中描绘了为替代人类劳动而被造出的AI劳工最终杀害人类并发动叛乱的悲剧。斯坦利·库布里克导演在科幻电影《2001太空漫游》中讲述了驶向木星的宇宙飞船内开始自主思考的AI计算机“哈尔”逐一清除人类船员的惊悚故事。古今中外的人们起初期待“善的AI”,却又预见到随技术高度化而出现“恶的AI”,这并不寻常。
Anthropic、OpenAI等全球4家AI公司的掌门人13日主张放缓节奏,称“应当放慢AI开发速度”。他们还发出令人胆寒的警告:“这是未来10年内致全人类死亡概率高达10%的风险。”这听来像是一种痛切的自我告白:AI竞赛若陷入技术万能主义,可能招致“戈莱姆的反击”。






