2026-03-16

[投稿] AI失误由谁负责

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

文艺复兴时期的艺术家列奥纳多·达·芬奇是精通解剖学、工程学、绘画与天文学的博学专家。直到18世纪,一个人还能以自然哲学家之名兼通物理、化学与生物。这种博学多才的专家式人生变得不可能,大约是在19世纪后半期。现代社会中,取得博士学位需要22年至28年的教育。博士们大体把人生的三分之一纯粹花在学习上,却只能在被切碎的碎片末端勉强窥视自己的那一小片。甚至有人说,能看住自己那一片已属幸运。然而从去年起,一个无需专业知识也能造出东西的时代开启了。只要让人工智能(AI)做一个具备某种功能的程序,AI就会写出代码,开发者不读代码就直接运行。若无法运行,只是把错误信息复制后再粘贴给AI,而不去追问它为何能运行。

有人可能反驳说,过去工业革命时,工厂工人不也不了解整个工序吗?但那时是分工,某处总有人贯通全局。人类在这一范围内不断弄清未知、创造新事物。如今,我们成了在连自己不知道什么都不清楚的状态下就把成果推出去的存在。我们正在利用AI组装“黑箱”。在连盖子都不打算打开的黑箱之上再叠一个黑箱,塔越高,最底层是什么就越无人知晓。

这个黑箱如今连科学也在吞噬。“AlphaFold”公开18个月就预测出2亿多个蛋白质结构并录入数据库,相当于人类用实验积累60年的结构数据的1000倍。同年获得诺贝尔化学奖的另一项研究,则用AI直接设计出自然界根本不存在的蛋白质。人类科学家仅要理解AI找出的结果如何运作就需要数年。而在这数年间,AI已经进入第几千个问题。知识被生产的速度与被理解的速度之间的差距,首次开始扩大到具有实质意义的程度。

今后,人类将以AI给出的摘要为基础去理解并下达指令。就像人们仅通过“猫既活着又死了”的比喻勉强了解量子力学那样,人类只能接收到AI所知事物的一个断面。现行法律和伦理体系建立在行为者理解自身行为这一前提之上。一旦该前提崩塌,责任问题便随之出现。当由AI诊断的患者收到错误处方,当AI设计的算法搅动金融市场时,我们不知该去找谁。一个无人担责的世界正在临近。

AI如今已能自行提出下一代AI的架构,并自行生成自己的学习数据。因此,说AI是我们造出来的,这句话可能已有一半是错的。与原本的连接断裂之后留下什么,没人知道。照此下去,人类也有迅速萎缩、最终消失的可能。现在正是需要就AI应被利用到何种水平与范围展开严肃讨论的时刻。