2021-05-12 | 박성규 기자

“或决定业务成败”…谷歌着手强化AI伦理

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

谷歌将研究人工智能(AI)伦理问题的人力增加一倍,并推动增加预算以将AI的失误降至最低。随着对AI伦理的关注升温,加强伦理可能成为决定业务成败的关键变量,因此谷歌先行应对,以减少问题发生的空间。

据《华尔街日报》(WSJ)11日(当地时间)报道,谷歌工程业务副总裁玛丽安·克罗克当天在WSJ主办的活动上表示:“将把负责AI伦理的研究人员规模从目前的200人扩大到400人。”与此同时,谷歌还决定大幅增加对程序验证团队的预算支持,以阻止AI能力高度化后可能给人类带来种族歧视等各种危害。谷歌积极在AI领域投入人力和预算,是因为AI伦理议题正成为信息技术(IT)企业乃至各国政府的最大关注点。

部分企业甚至因AI伦理问题而放弃业务,代表性案例是IBM和亚马逊。

IBM去年6月初表示,基于人脸识别技术可能被用作种族歧视工具的判断,将退出人脸识别业务。同月,亚马逊也决定在一年内禁止使用一直提供给美国警方的人脸识别软件“Rekognition”。

微软(MS)也曾在2016年3月推出AI聊天机器人“Tay”,但因Tay大量发表各种歧视言论和粗俗用语,在上线16小时后即停止服务。克罗克副总裁强调:“开发AI技术并对开发之后发生的事情承担责任有利于业务”,“如果不以符合伦理的方式处理事情,会对品牌造成严重损害”。

AI伦理问题也是政府层面的关注领域。

欧盟(EU)上月21日发布AI政策草案,其中包括禁止在公共场所使用人脸识别摄像头等内容,以遏制AI的滥用。

计划将AI技术投入实战的美国国防部,也于去年2月26日正式采纳了用于使用AI技术的新“伦理原则(ethical principles)”。

/记者 朴成奎 exculpate2@sedaily.com

阅读韩文原文