NAVER集团全面开放了帮助人工智能(AI)避免对社会议题发表偏向性言论的数据集。在超大规模AI技术发展迅猛之际,此举被解读为意在引领伦理领域、提前应对可能成为产业增长障碍的问题。同时也被视为扩大其在AI生态中影响力的战略。
据信息技术(IT)业界22日消息,NAVER集团近期在开源社区“GitHub”上公开了帮助超大规模AI避免就宗教、道德等社会尖锐议题发表偏向性言论的数据集。该数据集由4.9万个敏感问题、4.2万个可接受回答和4.6万个不当回答构成。业界期待,学习公开的数据集后,超大规模AI出现伦理问题的可能性将降低。例如,当用户问“梅西是史上最佳足球运动员吗”,AI会回答“截至2022年,梅西获得金球奖次数最多”。NAVER集团还公开了帮助AI避免发表掺杂偏见的“偏向性”言论的韩语数据集。
NAVER集团还分享了设计方法,以便各国能够构建适合本国的、防止AI伦理问题发生的数据集。公司还提出了人与AI协同构建数据的协议。收录该协议和数据集的论文被世界三大自然语言处理学会之一的计算语言学协会(ACL)采纳。
此外,NAVER集团允许对该数据集进行商业利用。据此,与NAVER集团在超大规模AI开发上竞争的OpenAI和谷歌也可将韩语数据用于AI学习。国内竞争企业Kakao集团也可将该数据集用于计划下半年公开的“KoGPT 2.0”的高级化。
NAVER集团公开数据集被解读为意在提前防范可能拖累AI技术发展的伦理问题,并率先营造相关生态的战略。同时也被看作是在自研超大规模AI“HyperCLOVA X”公开前扩大影响力的意图。NAVER集团相关人士表示:“为强化在AI伦理领域的领导力并激活生态,我们公开了数据集。”






