2022-09-13 | 김윤수 기자

Naver与Kakao出手整治元宇宙性犯罪与AI仇恨言论

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

NAVER集团与Kakao集团正着力推进自发履行在线平台用户保护义务的“自律规制”。分析认为,鉴于近期政府与业界已启动相关讨论,两家公司为使自律规制方式尽早落地而积极行动。

据信息技术(IT)业界13日消息,NAVER集团为预防元宇宙平台“ZEPETO”内的犯罪,将于本月内与数字安全专业团体签署合作伙伴关系。这是继今年6月以来与“ConnectSafely”“在线安全专家协会(TSPA)”“BBB国家项目”等合作之后的第四个数字安全合作案例。这些团体为合作方提供数字服务开发、滥用行为监测、用户及监护人安全教育、个人信息保护等方面的咨询。谷歌、Meta、TikTok等全球大型科技公司也在与这些团体合作。

元宇宙犯罪指元宇宙用户之间发生的性犯罪、个人信息侵害、赌博、暴力等。NAVER集团认为,在80%用户为十几岁青少年的ZEPETO上容易发生此类犯罪,正在制定预防对策。今年6月,NAVER集团在ConnectSafely的咨询下,还制作了可让父母管理子女使用ZEPETO的《面向监护人的ZEPETO指南》。NAVER集团相关人士表示:“计划通过本次合作确立性犯罪监测标准,并加强对受害者的救助支持。”据Korean National Police Agency数据,网络性犯罪2019年为2698件,2021年增至4349件,增加61%。

Kakao集团则聚焦于消除仇恨表达。为清除门户新闻、内容等中的仇恨言论(仇恨表达),将在明年上半年前制作“编码手册”。编码手册是开发者开发IT服务时参考的标准。在开发阶段应用该标准,可防止出现如“Luda事件”那样人工智能(AI)发表仇恨言论的情况,并筛查恶意评论与仇恨内容。Kakao集团将把编码手册应用于自家评论管理AI“SafeBot”及其他服务,并计划向外部企业开放。

两家公司践行自律规制,被解读为源于近期监管当局与业界启动自律规制讨论。本月初,韩国科学技术情报通信部、韩国公正交易委员会等与NAVER集团、Kakao集团等平台企业举行会议,以制定自律规制方案。由于这是以自律规制方式取代对平台企业进行法律规制的强硬举措“在线平台公正化法”并引入业界的机会,各企业争相付诸实践。本月初,“外卖民族”、Coupang Eats、Yogiyo等外卖平台自行修正了对入驻餐厅不利的自家使用条款。

业界人士表示:“平台业务具有随技术发展迅速变化的特性,已无法用法律规制一切”,“既然自律规制方式成为必需,为尽早落地,作为两大平台的NAVER集团与Kakao集团更需带头实践。”

阅读韩文原文