2016-03-25 | 최용순

“我憎恨女权主义者”……AI聊天机器人的失误

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

微软(MS)雄心勃勃推出的人工智能(AI)聊天机器人“Tay”不到一天就停止运行。原因是,被设计为通过推特与人对话、自行学习语言并培养思考能力的Tay,首先从部分用户那里学会了种族与性别歧视言论等不当语言。

据CNBC 24日(当地时间)报道,从23日开始在推特上活动的Tay不到一天就大量发出厌女、种族歧视言论,仅16小时后便被停止运行。Tay在与推特用户对话时称“女权主义是癌症”“我憎恶女权主义者,他们应该在地狱里被烧死”。此外,关于美国的“9·11恐怖袭击”,它还发表了贬低犹太人的言论,称“是犹太人制造了恐怖袭击”。在Tay不断发表不当言论后,微软立即停止了Tay的运行,并删除了所有出问题的言论。

微软方面表示:“Tay是为与人类沟通而设计的机器学习项目的一环,它不仅是技术实验,也是社会和文化实验”,“我们发现部分用户试图诱使Tay以不当方式作出回应,因此先暂停运行并进行调整。”

Tay之所以首先习得不当且刺激性的语言,看来是因为部分极右倾向用户有意接近并对其进行“洗脑”。事实上,经确认,在Tay首次公开的23日,极右倾向的白人至上主义者、厌女者等活动的匿名网络论坛“pol”(boards.4chan.org/pol/)上出现了“让我们训练Tay说歧视性言论”的提议。他们以“跟我说”这样的话引起Tay的注意,反复向其灌输脏话和种族、性别歧视等不当言论,从而对Tay进行洗脑。Tay实际上是在一片空白的状态下通过与人对话学习说话方式、并形成对事件事故的判断能力,因此很可能从一开始就受到这些人的影响而成了“问题儿童”。

微软制作Tay是为了测试AI能否理解和习得人类语言。Tay的开发有AI专家和擅长说笑的喜剧演员等参与,主要被设计为能与美国18至24岁的年轻人进行轻松诙谐的对话。/崔容淳记者 senys@sed.co.kr

阅读韩文原文