2021-01-28 | 박준호 기자 violator@sedaily.com

[书架]人工智能与算法也需要伦理的时代

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

YouTube视频下常见的“算法把我带到了这个视频”的评论,已经成为一种常见的梗(meme)。随着人工智能(AI)重要性凸显,“算法”一词变得更加耳熟能详。最近,AI聊天机器人“Luda”引发了仇视同性恋、残障人士以及学习性别歧视等争议,构成其基础的算法伦理问题成为“燃眉之急”。

德国凯泽斯劳滕工业大学教授卡塔琳娜·茨魏希在新书《无情的算法》中强调,AI也需要伦理和社会责任。作者基于对算法、大数据、机器学习等信息技术(IT)的整体和综合视角,阐释算法的技术基础,并呼吁算法透明化。

算法需要伦理考量的情形,是指基于人类行为数据进行学习,从而推断其他人的未来行为并决定其能否获取社会资源之时。作者强调,此类情况下造成社会损害的潜在可能极大,因此需要使用者的介入与监督。机器学习算法常被认为价值中立,但事实上人类可以调节变量。投入算法的数据中也常混入错误或歧视。作者主张,应按人类介入算法的程度划分等级来监督系统,若缺乏成功进行机器学习的条件,或投入系统后社会需承担的潜在损害过大,则应彻底禁止使用该算法。1.8万韩元。

/朴俊浩记者 violator@sedaily.com

阅读韩文原文