2017-05-24 | Kelsey D. Atherton

人工智能通过语言连人类偏见也学会了

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

机器人玩具:人类在制造机器时,也会注入关于性别的观念。<br>语言是彻底的重复。所有词汇都是人类创造的,由人类使用,其语境和意义由人类产生并强化。这正是语言的本质。当人类训练机器听懂人类的话语时,同时也把人类的偏见教给了机器。

普林斯顿大学信息技术政策中心的艾琳·卡利斯坎这样说:“语言反映偏见,这正是可以被证实的主要科学发现。如果人工智能学习人类语言,就必然会学到其中隐藏的偏见。因为语言反映着世界的文化事实与统计。”

卡利斯坎与合著者乔安娜·布赖森、阿尔文德·纳拉亚南共同完成的研究于今年4月发表在《科学》杂志上。在这项研究中,他们发现,若向机器教授人类语言,其中的偏见也会一并被教授。就人类而言,内隐联想测验正是检测偏见的最佳方法之一。该测验中,比如向人们出示“昆虫”一词,让其与“不愉快”或“愉快”之一建立联想,然后观察特定词与其他词建立联想的速度。人们把“昆虫”与“不愉快”联想的速度很快,而与“愉快”联想的速度较慢。这是衡量内隐联想的良好标尺。但这种测量犹豫程度的方法对计算机并不适用。因此研究者转而观察:当出示特定词时,计算机表现出多大倾向去与其他词建立联想。学生初次见到不懂的词时,会通过与该词一同出现的词的意思来推测其含义。研究者同样训练人工智能,让在互联网上一同使用的词彼此关联,不一同使用的词则不关联。

不妨把每个词想象为三维空间中的向量。在同一句子中常一同使用的词距离近,不常一同使用的词距离远。两个词越近,机器建立联想的概率越大。例如,如果人们常把“程序员”与“他”“计算机”一同说,把“护士”与“她”“服装”一同说,这就体现了语言中存在的内隐偏向。<br>

与女性关联度越高的职业名称,其从业者中女性劳动者越多。

与中性名字的性别分布相一致的词语联想<br>X轴表示美国劳工部统计数据中女性在特定职业中所占的比例(%)。Y轴表示在主要互联网词汇使用数据集中,与该职业相关联的词的使用频率。

把这类语言数据输入计算机以训练计算机,这个概念并不新鲜。使用斯坦福的词表示全局向量(Global Vectors for Word Representation,以下称GloVe,在这篇论文出现之前就已存在)等工具,可以根据相关词汇的使用方式绘制向量。GloVe的词集包括从20亿条推文中提取的270亿个词、从2014年维基百科中提取的60亿个词,以及从互联网随机提取的8400亿个词。

布赖森说:“可以考察‘猫这个词附近出现绳子这个词多少次?’‘狗这个词附近出现绳子这个词多少次?’‘正义这个词附近出现绳子这个词多少次?’等。这是词汇特征赋值的一部分。然后可以用余弦来比较这些向量。由此就能知道猫与狗之间的距离、猫与正义之间的距离。”内隐联想测验只是把关于善恶的无意识想法概念化了。同样,计算各种词组之间的平均距离,向研究者展示了计算机在学习语言过程中开始显现的偏向性。

机器开始学习语言时,就开始学到人类对花(愉快)或昆虫(不愉快)的偏见,这一点值得关注。布赖森表示,仅揭示到这一程度,就已经是重要的研究了。然而研究还揭示了更深层的内容。

卡利斯坎说:“接着还有第二项检验,即测量我们的发现与既有公布统计之间的数量差异。我查找了2015年劳工部统计。这份统计中列出了每年各职业中女性劳动者的比例,也列出了黑人劳动者的比例。把第一项检验中出现的50个职业名称与男性或女性之间的关联进行计算,结果与劳工部数据呈现90%的相关性。这非常令人惊讶。没想到从这种杂乱的数据中能显现出如此高的相关性。”

那么这就意味着,计算机也在把职业相关词汇与特定性别或种族群体相关词汇建立联想的过程中,学习种族主义与性别歧视。论文中举了“程序员”的例子。在英语中,这个词并未被特别赋予性别含义,但却隐含着男性化职业的意味。

布赖森这样说:“说‘程序员’这个词时,人们并不认为它意味着男性或女性。但在‘程序员’一词通常被使用的语境中,它经常指向哪种性别,已经显现出来了。”

像GloVe那样用既有语言数据集训练出的机器会捕捉到这些关联,因为其中已经存在语境。因此未来的研究者必须知道数据中存在人类偏见,并谨慎使用。卡利斯坎发现,用从维基百科提取的词集训练机器时,依据中立语言编辑规则编辑过的维基百科词集,同样显示出与从互联网获取的更大词集相同的偏向性。

像GloVe那样用既有语言数据集训练出的机器会捕捉到这些关联,因为其中已经存在语境。因此未来的研究者必须知道数据中存在人类偏见,并谨慎使用。卡利斯坎发现,用从维基百科提取的词集训练机器时,依据中立语言编辑规则编辑过的维基百科词集,同样显示出与从互联网获取的更大词集相同的偏向性。

研究者在寻找中性名字(如亚历克斯或泰勒等)时发现,在互联网上与女性关联度越高的名字,该名字用于女性的比例也越高。

卡利斯坎说:“要认识并克服偏见的存在,就需要将偏见量化。偏见如何在语言中扎根?人们是否在接触语言的过程中形成了偏向性的联想?只有回答这些疑问,才能打开走向偏见更少的未来的途径。”

考察其他语言也是一种方法。这项研究主要观察了互联网上的英语,因此可以说主要发现的是互联网英语使用者的偏见。卡利斯坎说:“我们想考察多种语言,观察这些语言的句法结构,了解它们是否影响性别刻板印象或性别歧视。有些语言是中性的,有些则有性别差异。英语的代词有性别差异。像德语这样的语言,名词也有性别差异。斯拉夫语系语言中,形容词和动词也有性别差异。我们想弄清这些差异是否影响社会的性别偏见。”<br>

<br>了解偏见混入语言的过程,也能了解人们在语言的外在意义之外赋予其内在意义的过程。研究作者之一乔安娜·布赖森这样说:“这项研究让我重新思考意识。意识有什么用?人类想记住世界。人类想了解正常发生的事情。那正是语义记忆。”

语言具有可变性。可变性是指随着语言的使用而形成语义语境的方式。因此,人类理解世界的方式除此之外还可能有别的。

布赖森继续说:“人们想创造新的现实。人们认为,正因为至今积累了许多成果,才有了女性也能工作、也能积累职业经历的世界。那是极为合理的事。那么现在就必须达成新的共识。比如在谈到某一位程序员时,也使用‘他们(They)’而不是‘他(he)’的表达。因为我们不想给人一种‘有些人不能成为程序员’的感觉。”而如果在没有察觉人们既有偏见的情况下向机器编程输入人类语言,就无法造出没有偏见的机器,只会造出复制人类偏见的机器。

卡利斯坎说:“很多人认为机器是中立的,但并非如此。像机器学习那样连续作出决定的顺序算法,输入的是人类数据。因此它只能呈现并反映那些数据。而过去的数据中夹杂着偏见,所以一个优秀、准确、能够把握所有关联性的学习算法,必然会把数据中的偏见显现出来。机器学习系统只能照其所见去学习。”<br><br>

Seoul Economic Daily 科技新时代编辑部 / by Kelsey D. Atherton

阅读韩文原文