2017-11-12 | 정순구 기자

“恐现终结者式屠杀人类”联合国首次讨论“杀手AI机器人”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

围绕是否监管配备人工智能(AI)的所谓“杀手机器人”,联合国首次展开讨论。

据法新社12日(当地时间)报道,在13日起在瑞士日内瓦举行为期5天的《特定常规武器公约》(CCW)会议上,杀手机器人将作为议题进行讨论。围绕搭载人工智能、可自主运行的杀人机器人的效用及副作用,在联合国层面展开讨论,这是首次。

民间团体人士担忧,杀手机器人会造成杀害无辜平民等巨大危害。此外还有人担忧,若杀手机器人落入独裁者、恐怖分子之手或被黑客攻击,可能引发大规模惨剧。人工智能专家群体中反对声也很大。特斯拉的埃隆·马斯克、谷歌DeepMind的穆斯塔法·苏莱曼等100多名企业人士于今年8月致信联合国,要求禁止杀手机器人。

不过,本次联合国会议制定禁止或监管杀手机器人的公约草案的可能性不大。主持本次会议的印度裁军大使阿曼迪普·吉尔表示:“现在才刚站到起跑线上”,“一刀切禁止是简单的处方,但对极为复杂的问题立即下结论并不明智。”

本次会议还有民间团体、高科技企业参与,并将安排以正确理解杀手机器人类型为重点的讨论时间。反对杀手机器人的核心论据是一个不可妥协的命题:杀害或破坏的决定主体最终必须是人。

民间团体“阻止杀手机器人运动”(Campaign to Stop Killer Robots)主张,杀手机器人在概念上就是非法的。由于计算机不可能成为战争罪嫌疑人,因此任何被输入由算法(计算逻辑体系)决定单次攻击的机器都属于脱法存在。对此,吉尔大使介绍气氛称:“在与生死相关的决定必须由人类负责这一点上存在共识。”

但他表示,在如何通过技术使致命武器经由人类控制方面,出现了多种意见。被赋予保护国际人道法权限的红十字国际委员会(ICRC)则持折中立场,不要求禁止杀手机器人,而是主张加以限制。

在ICRC武器部门工作的尼尔·戴维森表示:“我们的基本方针是,机器无法适用法律,也不能把法律决定交给机器。”戴维森还指出了杀手机器人会随攻击的时间、地点等变量而产生的问题。例如,如果机器被编程为在某地投入数小时、对探测到的敌军目标无条件攻击,就必然会引发争议。

阅读韩文原文