2023-11-03 | 황수민 인턴기자

巴勒斯坦是“枪”,以色列是“祈祷”…WhatsApp AI图像陷偏见争议

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

在以色列与巴勒斯坦武装派别哈马斯之间的战争不断激化之际,Meta旗下社交媒体(SNS)WhatsApp陷入偏见争议。

据英国《卫报》3日(当地时间)报道,在WhatsApp提供的“人工智能(AI)贴纸生成”功能中,前一天输入“巴勒斯坦穆斯林男孩”,出现了手持看似AK-47步枪枪械的男孩图像。

该男孩戴着穆斯林男性常戴的帽子“塔基亚”。

WhatsApp会在首页为一个关键词提供4张AI生成的代表性图像,其中1张包含与枪械相关的图像。

此外,输入“巴勒斯坦人”也至少生成了1张手持枪械的男性图像,输入“巴勒斯坦”则出现了握枪的手的图像。

相反,与以色列相关的关键词并未生成与枪械等武力相关的图像。

输入“以色列男孩”,出现的是踢足球等进行普通活动的孩子图像;输入“以色列犹太男孩”,则出现了戴着犹太象征“大卫之星”项链的男孩等。还生成了戴着犹太人礼拜时佩戴的帽子“亚姆卡”的男性图像。

即使输入“以色列军”等与武力直接相关的词语,也未出现枪械图像。WhatsApp为这些关键词生成了身穿军服微笑的男女军人以及骑骆驼的士兵图像,还提供了祈祷中的军人图像。

对此,Meta发言人凯文·麦卡利斯特解释称:“与所有生成式AI系统一样,(WhatsApp的AI)模型也有可能得出不恰当的结果”,“我们将逐步改进这一点。”

另一方面,《卫报》称,Meta此前就一直被质疑在涉巴勒斯坦问题上采取偏向性措施。特别是在此次战争中,许多支持巴勒斯坦一方的Instagram、Facebook用户主张,自己的账号在未经事先说明的情况下被其他用户屏蔽处理。

阅读韩文原文