<b><font color=ff0000>本文刊载于《财富韩国》2017年4月号。</b></font><br>
假设一辆载有10名乘客的巴士正在高速行驶,突然有2名小学生冲入车道。若巴士紧急刹车,冲出来的2名小学生会死亡;若向右转向,路边的另外1名行人会死亡;若向左转向,则会坠入悬崖,车上乘客全部死亡。在这种情况下,你会作出怎样的判断?这是关于自动驾驶汽车、乃至人工智能(AI)伦理的问题。<br><br>
<br>近来对AI的关注大幅上升,AI伦理问题也被预测将逐渐现实化。这类伦理问题正引发AI反乌托邦争论。为人类而制造的AI助理、机器人、自动驾驶汽车、机器人投顾、杀伤性武器等,都可能出现误动作或判断失误等问题。就像AI支配人类的电影《超验骇客》或《终结者》的情节一样,如何保护人类免于未来的恐惧,也需要讨论。<br><br>美国、欧洲、日本等已在准备AI的伦理方案。欧洲议会曾公开表示将把AI机器人界定为“电子人”,并制定与人同等征税的方案。最近日本人工智能学会通过了针对AI的伦理指针,规定AI要成为社会成员的对等存在,必须遵守与学会会员同等的伦理指针。美国和欧洲等地也在研究制定AI应遵守的伦理的方案。围绕能否让AI承担伦理责任,以及在必须承担法律责任的情形下的判断标准,讨论正在进行。<br><br>伦理学者最担忧的AI领域是自主杀伤性武器(LAWS·Lethal Autonomous Weapons Systems)。最近联合国《特定常规武器公约》(CCW)已开始将该问题列为议题。随着快速发展的AI技术提高了自主杀伤机器人的生产可能性,争议正在加剧。<br><br>自主杀伤性武器是指在无人介入的情况下,依据事先输入的程序独立执行战斗的机器。去年12月8日,俄罗斯在南部达吉斯坦用杀手机器人击杀了IS核心成员鲁斯塔姆·阿谢尔多夫。利用外形类似小型装甲车的杀手机器人接近藏身处,爆破出入门并进入内部,执行了击杀行动。此外,美国国防部去年公开了AI无人机。该无人机能自行避开障碍物,区分敌我并实施攻击。波士顿动力开发了双腿行走的人形机器人“Atlas”,只要为Atlas装上武器,它就可能成为机器人士兵攻击人类。<br><br>杀手机器人因可能绕开国际人权标准杀害人类而成为争议对象。交战时,人类士兵可以根据情况不击杀敌军而将其俘获,但杀手机器人则会无条件击杀。即便杀手机器人被编入各种行动指针,也难以应对实际交战中出现的各种情况。此外,若杀手机器人犯下大屠杀等战争罪,由于诉讼对象不明确,赋予其法律责任也很困难。为解决这类问题,最近在美国加利福尼亚州阿西洛马,AI专家聚集召开会议,制定了包含应避免开发可杀伤的自主武器之竞争等内容的23条“阿西洛马AI原则”。<br>
美国、欧洲、日本等地围绕能否让AI承担伦理责任的讨论已在热烈进行<br>AI伦理问题主要讨论的是能否将AI视为道德行为主体的解释,以及当AI造成金钱损失或身体伤害时,应由谁成为刑事处罚对象。这些都是过去的法律解释无法处理的问题。从法律角度看,当AI实施某种行为时,通常判断应由该行为的权利·义务归属者承担责任,但在大量AI被使用、人与AI的界限日渐模糊的情况下,这一判断并不容易。<br><br>在美国,每年约有3万5000人在道路上因事故死亡。其中94%源于人的失误或选择。许多人认为,若美国引入自动驾驶汽车,每年可挽救数万人的生命。但如果恐怖组织的黑客侵入自动驾驶汽车的计算机网络并改变其行为模式,它也可能成为致命的杀伤武器。考虑到自动驾驶汽车牌照都已开始发放、自动驾驶时代已大步临近,AI的安全与伦理问题已成为亟须处理的重要课题。<br><br>韩国国内虽略显迟缓,但也开始了关于AI伦理的讨论。最近韩国信息化振兴院(NIA)将AI伦理问题归纳为安全性与可信性、隐私、误用滥用、责任性、人类身份认同混乱、恐惧症等6项。安全性与可信性问题是指AI将人类误判为动物或敌人的情形。隐私问题是指因AI助理等便利人类生活的设备而导致人的私生活受到侵害的问题。误用滥用问题是指AI进行了错误的学习和判断,导致运行停止或做出其他行为的问题。责任性是指若AI医生或机器人投顾通过错误决策给人类造成损害,应由谁承担责任的问题。应用AI的代理人类或性关系机器人等属于人类身份认同混乱问题,而担心AI抢走岗位并支配人类则属于恐惧症问题。<br><br>假设要为前述交通事故情形制定AI伦理。如果原因提供者承担责任是正确的,那么让冲入车道的2名小学生死亡就是对的。但从人口统计学角度看,与10人死亡相比2人死亡更好,与2人相比1人死亡更好,即把车向右转让1名行人死亡。若适用保护行人优先于车内乘客的政策,则应把车向左转,保护冲出来的小学生和行人,而巴士坠入悬崖。<br><br>即把车向右转让1名行人死亡。若适用保护行人优先于车内乘客的政策,则应把车向左转,保护冲出来的小学生和行人,而巴士坠入悬崖。<br>
安炳翼代表是……<br>韩国国内位置服务技术的代表性人物。曾任韩国地理信息软件协会理事、韩国空间信息学会常务理事、韩国LBS产业协议会理事。2000年至2009年任Point-i代表理事,2010年创办基于位置的社交网络服务SeeOn(现食神株式会社)并经营至今。同时担任建国大学信息通信研究生院兼任教授。<br>
Seoul Economic Daily 《财富韩国》编辑部 / 文 安炳翼代表






