2020-09-15 | 김동호 기자

人工智能伦理协会:“应设立AI算法偏见检验中立机构”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

近期,围绕主要政党党首国会演讲报道在门户新闻中的曝光,新闻编辑AI算法的中立性与偏向性引发争议。对此,韩国人工智能伦理协会(KAIEA,会长李清浩)14日发表声明,呼吁引入检验AI算法偏向性的中立机构。据韩国人工智能伦理协会表示,此次争议不应仅被视为政治问题,而应审视近来国内外互联网、移动企业无节制引入的AI自动化算法的根本性问题。协会指出,过度信赖AI算法、将所有作用与责任推给AI才是问题所在。韩国人工智能伦理协会在声明中表示:“在当前技术阶段,AI算法很可能基于有偏向的数据进行学习并实现,因此AI算法本身也难免带有偏向。此外,设计AI算法的终究是人,人的偏向性想法可能原样反映在AI算法之中。”协会还主张,“在这种情况下,尽管AI自动化算法随时可能引发伦理问题,却不加任何检验地过度信赖或无节制利用,这本身就是问题”,因此需要事前与事后判断AI算法中立性的系统性机制,并且必须设立能够检验AI算法偏向性并加以正确指导的中立机构。最后,协会表示,AI技术仍处于发展之中,目前在伦理上应遵守的明确开发指南与准则极为匮乏,呼吁政府、企业、学界、研究界、相关团体等所有相关主体积极合作,制定并适用此类AI伦理指南。关于此次声明,韩国人工智能伦理协会理事长全昌培强调:“AI算法的中立性若由政府判断,可能成为管制;若由企业自我判断,本身就无法中立。”他表示,“AI算法偏向性的检验与判断应由所有相关主体共同讨论,但由非营利团体等中立机构承担才是正确的解决方案。”[声明全文]“我们对AI自动化算法的偏向性表示忧虑,并呼吁引入检验系统及检验中立机构”近期,围绕国会主要政党党首演讲报道在门户服务首页的曝光,新闻编辑AI算法的中立性与偏向性引发争议。就此,韩国人工智能伦理协会一直在人工智能伦理问题中持续提出AI偏向性问题,并借此次争议再次就AI算法的偏向性表明如下意见。一,在当前技术阶段,AI算法不可能中立。在现有技术水平下,AI算法很可能基于有偏向的数据实现,因此AI算法本身也可能带有偏向。此外,设计AI算法的是人,人的偏向性想法可能反映在AI算法中。一,对于在没有检验过程或程序性指南的情况下,无节制利用这种无法中立的AI算法的互联网及移动服务企业,我们表示忧虑。一,因此,迫切需要能够判断和检验AI算法中立性的系统,以及能够进行检验和指导的中立机构,政府与各企业必须积极配合此类机构的设立与适用。一,AI技术仍处于发展之中,在伦理上应遵守的明确开发指南与准则尚不充分。政府、企业、学界、研究界、相关团体等所有相关主体必须积极合作,制定并适用此类AI伦理指南。AI技术是为人类便利与幸福服务的技术,但一旦被错误开发或使用,其危险性与副作用可能很大,因此请求包括本协会在内的所有相关主体积极参与持续提出、讨论并达成共识的过程。2020年9月14日 韩国人工智能伦理协会 /金东浩记者 dongho@sedaily.com

阅读韩文原文