2024-03-04 | 김경미 기자

“加沙平民屠杀背后是AI……要求以军公开透明度”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

在加沙地带战争导致平民死亡不断的背景下,有观点指出以色列动用的人工智能(AI)武器是过度屠杀的原因。

据美国政治专业媒体Politico 3日(当地时间)报道,以色列在攻击加沙地带时,正利用名为“福音(Gospel)”的AI系统筛选学校、救援团体办公室、礼拜场所等打击目标。该系统通过机器学习迅速分析海量数据,挑选可攻击的目标。以色列军方去年11月曾通过声明表示,福音系统除提高精确度外,还“可利用自动化高速生成目标”。军方还提到,通过这类AI功能,在战斗开始后的27天内打击了1万2000多个目标。不过以色列军方解释称,攻击的最终决定由人作出,需要指挥体系中至少一人以上的批准。

但人权团体对以色列军方这种AI运用是否得当提出质疑。巴勒斯坦非营利人权团体7amleh近期在声明中主张:“在战争中使用自动化武器,是对巴勒斯坦居民最为邪恶的威胁。”以色列最大人权团体以色列公民权利协会也在去年12月就自动瞄准系统提出需要更高透明度,并向军方申请信息公开。

追踪AI战争政策与现状的美国人士也主张,以色列歪曲了原本目的,正利用AI扩大打击目标清单。进步倾向的外交政策智库国际政策中心代表南希·奥凯尔表示:“以色列为锁定其称为‘权力票’的目标而利用AI,这一事实正变得明确”,并称这与为精确打击而使用AI的原本目的不同。以色列军方将与哈马斯或巴勒斯坦伊斯兰圣战组织相关、具有安全或认知重要性的目标称为权力票,而奥凯尔代表认为,以色列军方在广泛地指定权力票。

Politico评论称,这类要求以色列军方提高AI透明度的指摘,将令以色列最亲密盟国之一美国的政界感到不适。实际上美国政府一直避免提及以色列的AI使用问题。以色列去年11月也未参与美国呼吁“在战争中负责任地使用AI”而提议的国际讨论构想。

英国安全企业“Trail of Bits”的董事海蒂·克拉夫表示:“考虑到AI系统高错误率的记录,以不准确且带偏见的方式自动化选定目标,与无差别打击目标并无太大区别。”

阅读韩文原文