2017-11-10 | 박민주 기자

[周六观察]“停止研发杀手机器人”……科幻中的担忧逼近现实

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“机器人不得伤害人类。”

美国科幻小说(SF)巨匠艾萨克·阿西莫夫以这一条款开篇提出机器人三大原则,75年后的今天,随着人工智能(AI)的迅猛发展,曾经模糊的担忧正变为现实,AI与机器人的伦理问题迅速浮出水面。一部分人不断发出悲观警告,认为机器人不仅会抢走工作岗位,甚至可能威胁人类的命运,要求对可能引发伦理问题的机器人加以规制的呼声也随之高涨。但若对AI伦理问题施加过度标准,又可能成为技术开发的障碍,因此全球范围内的争论日趋激烈。

随着AI的发展,机器人不仅能执行人类命令,还具备了自主判断与行动的能力,机器人的伦理问题因此被摆上台面。尤其是基于AI的“杀手机器人(killer robot)”武器的开发与使用不断扩散,争议进一步放大。美国国防部去年公开了能够自行避开障碍物、区分敌我的AI无人机。此外,美国机器人公司波士顿动力开发并展示了能用双腿驰骋战场的人形机器人“Atlas”。一旦下达命令,机器人攻击人类已成为可能。

对此,电动汽车制造商特斯拉创始人埃隆·马斯克近日主张:“拥有强大计算机科学技术的所有国家为在AI领域占据优势而在国家层面展开竞争,很有可能引发第三次世界大战”,并与AI、机器人业界的137名创始人一同向联合国递交联名信,呼吁禁止机器人武器。7日,澳大利亚与加拿大的AI、机器人研究者也分别致信本国总理,要求其公开支持在国际上禁止将致命性AI技术用于军事目的。

随着伦理争议升温,近来也出现了这样的动向:明确将AI研究目的定为促进人类文明发展,并据此制定机器人开发及规制方案。支持AI研究的非营利组织“未来生命研究所”今年初发布了包含“应避免AI武器竞赛”等内容的“阿西洛马AI主要原则(共23条)”。包括816名AI、机器人研究者在内,共约2000人在该原则上签名。为规制AI的立法动向也在推进。欧洲议会今年初开始讨论在欧盟(EU)层面制定与AI及机器人相关的规制。在韩国,包含智能机器人伦理宪章的机器人基本法修正案已在国会提出,着手防范AI的负面影响。该法案包含赋予机器人特定权利及电子人格体地位、并强制机器人遵守人类伦理规范的内容。此外,韩国机器人产业振兴院计划为应对全球机器人伦理相关讨论,在今年年底前制定反映社会各界意见的民间主导的机器人伦理宪章。

阅读韩文原文