NAVER集团今年上半年为解决恶意评论问题,推出了公开评论活动记录、屏蔽特定人评论等功能,进行了多项技术尝试。尤其是引入并升级了可检测脏话乃至无礼表达的"人工智能(AI)清洁机器人"后,恶意评论的撰写及曝光数量大幅减少。
NAVER集团21日表示,与今年1月相比,6月恶意评论撰写数量减少,因违规被删除的数量减少63.3%。同期评论的"不赞同"点击减少21.5%,举报减少53.6%。
NAVER集团方面分析称:"3月的'评论记录公开'有助于减少恶意评论撰写,4月的'屏蔽特定人撰写的评论'、6月的'清洁机器人升级'则对减少恶意评论曝光贡献很大。"
评论总数小幅减少0.7%,而撰写者人数增加8%。撰写者自行删除的评论数减少20.8%,人均评论撰写频率减少8%。对此NAVER集团方面解释称:"此前有人担忧公开评论记录、实施本人确认制会导致评论空间萎缩,但结果相反,更多用户参与并更为慎重地留下了多样的声音。"
此外,随着所有用户的评论记录被公开,访问其他用户"评论汇总页面"的情况也更为频繁。据NAVER集团介绍,评论汇总页面访问量增加了3倍(达到原来的4倍),通过评论汇总页面下方列表进入新闻报道的情况也增加了22.5%。
关于这种新闻评论环境的变化,NAVER集团分析认为,6月升级的"人工智能(AI)清洁机器人"影响很大。去年4月首次亮相的AI清洁机器人是检测含脏话或粗俗语的评论并自动屏蔽处理的技术,今年6月经改进后,即便不含粗俗语,也能检测侮辱性表达或无礼评论。
据NAVER集团介绍,AI清洁机器人根据报道不同,检测性能提升约1.5~2倍,准确率达95%。尤其能检测出并非以词语、而是用表情符号或特殊符号在视觉上构成的脏话。结果是曝光给用户的恶意评论减少,与AI清洁机器人升级前相比,恶意评论举报数量减少19%。
NAVER集团相关人士表示:"我们将持续进行改进工作,进一步提高AI清洁机器人的准确率、扩大检测范围,使新闻评论服务更好地发挥就相关新闻交流个人意见并展开讨论的公共舆论场作用","此外还将继续进行为解决恶意评论问题的各种政策及技术尝试。" /白周元记者 jwpaik@sedaily.com






