是否存在能够杀伤人员的自主机器人?与许多其他问题一样,答案取决于如何定义。地雷是一种被人踩到就会爆炸的固定式爆炸物,它是具备杀伤能力的自主装置,但没有人会把它看作能够杀伤人员的机器人。
获得埃隆·马斯克旗下未来生命研究所资金支持的亚利桑那州立大学全球安全构想,研究了目前作为武器使用的自主机器人,并设定了这些机器人将来自主作出杀伤决定所需的基准值。这项研究提出了一个非常有趣的疑问:如果自主机器不遵从人类的决策,而是独立作出决策,会发生什么?
军事专业媒体《防务一号》刊载的研究报告作者希瑟·M·罗夫表示:“目前研究的自主体系并不是为了在战场上与人类并肩作战而开发,而是为了代替人类作战而开发。这一研究主题与这种趋势非常契合。这种趋势在无人机上尤为突出。看看目前正在测试开发中武器的无人机,其自主性正不断增强。美国国防部强调《半人马作战》,即人与机器人组队作战的战斗,但由于这种开发趋势,目前正在部署的武器体系并非与人类共同作战,而是具有无需人类即可运转的强烈自主倾向。”
以导弹为例。自20世纪60年代开始开发的导弹,并不是人们通常想象的自主杀伤武器。瞄准导弹、作出发射决定都由人来完成。但也有由机器自主完成的部分。研究报告作者罗夫将导弹制导体系定义为“武器体系朝已识别目标前进的能力”。
导弹制导技术是所有目标追踪技术中最早出现的技术。但由于制导体系过于人所熟知且普及广泛,欺骗制导体系的技术也随之成为可能。
<br> 在2013年巴黎航展上亮相的“哈罗普”无人机罗夫表示:“从技术角度看这是合理的。导弹的基础技术(雷达、热成像)相对简单,并且构成了其他多种技术(目标识别、目标图像区分)的基础。从自主技术的角度看,制导存在追踪非预期目标的巨大风险。因此过去50年制导技术的进步,重点放在降低目标追踪被欺骗的可能性上。”
若轻信制导武器一定能准确找到正确目标,可能给人类带来极为可怕的后果。2014年,得到俄罗斯支持的乌克兰分离主义者在东乌克兰击落了多架乌克兰军用运输机。在此过程中,载有平民的马来西亚航空MH-17航班在乌克兰被误认为军用运输机而被击落。这可能是操作员错误解读雷达图像的责任。该事件中使用的“山毛榇”导弹发射装置的目标制导体系在发现空中飞行的飞机方面很出色,但在区分军用运输机与民用客机方面性能并不出色。
因此未来的自主目标瞄准技术,不仅是寻找所选目标的能力,自主识别并攻击目标的能力将变得更为重要。
再次引用罗夫的文章:“目前最迅速崛起的两项技术是目标图像区分技术和徘徊技术(又称自主交战)。目标图像区分技术利用计算机视觉与图像处理技术,已被用于大多数最新导弹体系。徘徊技术目前在特定远程平台及小型无人机上应用越来越多。这两项技术开启了自主性的新篇章。武器不再被指定特定目标,而是被赋予多个潜在目标,在交战区域内待机,一旦相应目标出现即予攻击的时代已经开启。这类技术目前仅在少数体系中使用,但在开发过程中被极为重视。”
未来将翱翔在战场上空的无人机会观察地面物体,将其与获授权的目标清单比对后作出攻击决定。当然,这类武器很可能被设计为在攻击前需要人类批准。但战场上的局势发展极快。因此军事领导人很可能认为,需要人类批准的武器体系应对这类局势的能力较差。如此一来,反而可能倾向于赋予机器完全自主的决定权。
在美国国防部及多个国际组织正为自主杀伤武器问题而苦思的背景下,罗夫的研究提出了必须严肃思考的问题。
<br>Seoul Economic Daily 科技新时代编辑部/by Kelsey D. Atherton






