2019-10-15 | 송영규 기자

[走近我们的AI] 种族、性别歧视的AI…须减少学习数据偏差

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

人工智能(AI)算法正越来越多地扮演做出重要决定或辅助决策的角色。实际上,从筛选职场或大学的申请者,到决定是否放贷及贷款额度,它在许多领域影响着我们的生活。但许多专家早已指出,如果盲目应用,学习数据中存在的偏向性有可能放大偏见。

对性别角色或工作领域的偏向性深植于我们的意识之中,并反映在思考和对话里。语言是实施性别歧视或偏见的强有力手段之一,尽管随着深度学习技术的发展,语言处理能力有了飞跃式进步,AI仍然可能存在偏向性。

由于计算机无法直接理解人们日常使用的自然语言,因此要使用一种名为"词嵌入(word embedding)"的转换手法,把词语转换成计算机能够理解的形式。通过这种方式,就能理解语境,理解含义的相似性或差异以及词语之间的关系。这种转换通过神经网络学习自动完成,结果因所使用的学习数据而异。

一旦能够理解词语之间的关系,就可以从"巴黎—法国"的关系推断出"东京—x"中的"x"是日本。但即便并非出于特别的意图,如果使用包含大量带有偏向性语句的数据进行学习,也可能从"男人—计算机程序员"的关系中推定"女人—x"中的"x"是主妇。在不知不觉间,所使用词语之间的关系就可能产生带有性别偏向的结果。

在提出调整这种偏向性方法的论文中,2016年微软研究团队发表的方式令人印象深刻,这里仅简单看一下其概念。他们把词语区分为必须明确按性别加以区别的词和应当保持中立的词。例如,把男/女、叔叔/姑姑、爷爷/奶奶这类理应区分性别的词,与医生、乘务员、卡车司机、计算机程序员这类应当中立的词分开。之后在经由词嵌入转换后的空间中,进行调整,使应当中立的词与"男/女"这类须区分性别的词之间的距离相等。例如,如果外科医生原本更偏向男性一侧,就把其位置移到中立位置,从而消除性别偏向性。

即使使用报纸等容易接触到的普遍数据进行学习,仍然存在偏向性,这或许是社会固有问题的投影结果,但如果在学习时努力减少或消除这种偏向性,AI就能为减少社会的偏向性做出小小的贡献。此外,除性别偏向性之外,还可能存在地域、学历、肤色、年龄段等各种类型的偏向性,因此必须充分考虑到这些方面。

阅读韩文原文