韩国、美国、中国、日本、德国、意大利、香港等7个国家和地区的25支队伍参加的世界最高水平国际机器人技术竞赛,将于下月5日、6日两天在美国加利福尼亚举行。
该赛事由美国国防部主办,总奖金350万美元(38亿韩元)。以2011年日本福岛核电站爆炸事故为契机,大赛旨在促进机器人技术发展,使机器人能够投入人类难以接近或危险的各类灾难现场,采取必要的紧急应急处置。
美国国防部下属国防高级研究计划局(DARPA)已为开发能够在人类无法到达的灾区活动的机器人投资1亿美元。
DARPA网站提出了参赛机器人所需的技术水平,包括在与安全区内操控机器人的人员通信中断或不稳定的情况下,机器人仍能完成既定任务,即使摔倒也能自行站起等能力。
问题在于,具备这种自主判断与机动能力的机器人随时可能被转用于军事武器技术,而武器技术的发展速度之快,已使考虑此类武器使用所涉法律、伦理和人权层面的监管政策的检讨与制定难以跟上。
美国《华盛顿邮报》16日报道称,针对这类担忧,DARPA的大赛组委会强调,尽管这些机器人外观看起来像终结者,但其设计用途是在灾区用于人道主义目的,例如营救被埋在尼泊尔地震废墟下的人员,而非战场。
不过该报指出,随着这项技术的发展,“官员们说,总有一天其用途会扩大到各种各样的领域,不仅可以帮助老弱者或投入生产工序,也可以被用作军人。”
DARPA发言人里克·韦斯表示,DARPA也“充分认识到”机器人技术的快速发展“正在带来社会、伦理和法律上的难题”。
与此相关,去年11月在日内瓦举行的联合国特别会议上,有人警告基于快速发展的自主机器人技术的杀伤性“杀手机器人”的潜在危险,并主张应在国际法中明确规定由人类控制这些机器人。
正在推动停止开发杀手机器人运动的国际人权组织“人权观察”在该会议上呼吁:“由于技术在超前发展,杀手机器人是需要紧急应对的问题”,“禁止它是唯一的解决办法”。
同年8月,联合国裁军事务高级代表安格拉·凯恩在媒体采访中表示,在战场上不受人类操控而自动行动的杀手机器人出现已不远,并以杀伤行为的责任归属变得不明确等理由,同样主张应予禁止。
她表示:“所有武器都很可怕,这是事实,但不经人类介入而使用的武器会使问题恶化并抹杀人性,因此更为糟糕”,并对“无面孔的战争”“战争的自动化”等表示担忧。
2013年,包括诺贝尔和平奖得主乔迪·威廉姆斯在内的机器人与人工智能专家、国际人权组织等曾组织反对杀手机器人的运动,称“问题在于杀手机器人研究在伦理规定和国际法的关注之外毫无管控地推进”。
参与该运动的诺埃尔·夏基教授指出,1949年缔结的日内瓦公约载有保护战俘、伤员和平民的交战规则,而杀手机器人“没有能够分辨手持糖果的儿童与举枪瞄准的军人的识别体系”。
但也有专家自愿充当杀手机器人的辩护人,称“反对杀手机器人的伦理主义者和人权运动人士,是否对人性作了过于宽容的假设”,“如果说到遵守国际人道主义法,计算机会远胜于人类”。
乔治城大学法学教授罗莎·布鲁克斯18日在军事安保专业媒体《外交政策》上发表题为《为杀手机器人辩护》的文章,指出人类是在战场硝烟中容易崩溃的脆弱存在:眼睛只能看到前方,耳朵只能听到特定频段,大脑在特定时点的信息处理量有限,会被巨响惊吓,陷入恐惧时认知与判断也会暂时麻痹或扭曲。
布鲁克斯教授反问,结果人类在战场上不总是犯下愚蠢的错误吗——误判距离、忘记命令、误解对方的动作,把相机当作武器,把羊群当作军人,把友军当作敌军,把学校建筑当作兵营,把婚礼队伍当作恐怖分子队伍。
她补充说:“如果说美国在伊拉克和阿富汗战争中造成了大量平民伤亡,那不是因为杀手机器人,而是因为总是潜藏着错误的人类决定。”
相反,计算机不会失去意识或陷入恐惧,不会受情绪支配而行动,能在极短时间内处理海量信息并迅速作出适当决定,虽然“并不完美”,但在危机和战斗状况下“比我们人类的缺陷要少得多”。
她特别指出,我们认为自己拥有机器无法模仿的“判断力与直觉”这种特殊能力,但她列举了计算机作出远更好判断的多个事例,并表示:“如果让我在遵守国际人道主义法方面选择相信人类还是相信设计和编程良好的机器人,我随时都会押注杀手机器人。”
对于禁止论者“如果完全自主的杀手机器人开始把杀人当作运动、或出于憎恨而杀人,并为了好玩而积累权力和财富,该怎么办?”的提问,她以对人类的讽刺作结:“那样的话,它就不是机器人而是成为人类了,成为我们所畏惧的那种人类。”
/数字媒体部






