目前热播的流媒体(OTT)平台奈飞剧集《重症外伤中心》主人公白江赫,能轻松缝合患者断裂的神经束,还能在并非手术室的直升机上完成难度极高的降颅压手术。这位拥有超感官能力的医生之所以并不令人陌生,是因为人工智能(AI)已在现实世界中大显身手。
深度学习取得突破以来,AI在最近十多年里做到了人类社会中无人能做到的事。与人类不同,它不受情绪和外部环境左右,能够稳定持续地产出成果。在医疗领域,其影响力尤为压倒性。谷歌子公司DeepMind开发的“AlphaFold”解析了数亿个蛋白质结构,其开发负责人德米斯·哈萨比斯也因此于去年获得诺贝尔化学奖。
不过,尽管成就如此压倒性,仍有一个疑问:“AI是否也能做出道德判断?”以肾脏移植手术为例。AI可以顺利地对患者进行分类,并采用与之匹配的最优移植方案实施手术,但要把“救哪位患者”这样的道德判断交给它,则勉为其难。哲学家兼伦理学家、美国杜克大学教授沃尔特·辛诺特-阿姆斯特朗与神经科学家亚娜·谢克·博格、计算机科学家文森特·科尼策合著的新书《道德的AI》(原名Moral AI)中,就此类情形提出了为AI引入伦理性的假设。
例如有自下而上的道德路径。即不去确立一般性规则,而是通过判定道德上是否为善的具体案例,让AI学习道德。比如患者的肾脏状况、预期寿命、等待时间等,是任何人都普遍认同的、决定肾脏受移植者的重要因素。但此后的伦理判断便出现分歧。肾移植等待者过去是否吸烟或服药、抚养家属人数、是否从事经济活动等,都是存在争议的部分。若再额外考虑等待者的性别、种族、国籍、宗教又会如何?把哪些因素加入作为判断基准的数据,结果可能大相径庭。尤其是可基于案例进行强化学习的自下而上路径,很可能排除数据相对较少的性别、种族等因素。
作者们提出的替代方案在于弥合原则与实践之间的鸿沟。在确定肾脏移植对象时,他们强调应通过“众包”社会共识来形成一个统一的社会共识。为此要打造道德的AI技术工具,并使其在AI模型的开发与部署过程中得到运用。进而重新设计组织文化与产品开发流程,使实现道德的AI在产品开发过程中发挥重要影响力。更进一步,还要以法律强制设置像首席安全官那样、对实现道德的AI负责的负责人。
不过,这在理想层面是没有问题的纲领,落实起来却有局限。作者强调对AI既需要乐观论也需要悲观论,并指出悲观论的理由在于AI模型是在“快速失败、频繁失败”的基调下被造出来的,这是其先天局限。由于10个AI项目中有8个不会成功或无法盈利,因此速度战必然比完成度更受重视。以随时可修改的未完成版本先行推出、再改进可用性的特性,使伦理判断被排到次要位置。
例如,最近令美国英伟达市值蒸发880万亿韩元的中国AI企业DeepSeek的模型“R1”,仅因公开其在特定性能上具有优势,就给市场带来巨大冲击,便是一例。而“R1”在算法是否存在偏见等方面的局限,至今尚未被掌握。
尽管如此,AI仍在持续被用于实际生活,越是对伦理判断放任不管,其全部代价终将由人类社会承担——这正是作者主张在AI伦理上也要打速度战的理由。2.2万韩元。






