NAVER集团29日表示,已完成恶意评论识别系统“AI Clean Bot 3.0”的升级。通过此次升级,将集中屏蔽NAVER集团上发布的与自杀、死亡、身体损害等相关、助长轻视生命的评论,以及针对事件事故受害者及其遗属的仇恨性评论。
“AI Clean Bot 3.0”模型的特点是结合报道语境强化了恶意评论识别能力。不仅分析新闻评论内容,还综合报道标题与正文来识别恶意评论,并持续进行优化。
NAVER集团于2019年在业界首次推出的“AI Clean Bot”,伴随评论服务整体的技术与政策努力,为应对快速变化的新造词、仇恨表达等,识别范围与准确度不断提升。
从最初基于恶意关键词自动识别脏话、粗俗用语的水平,到2020年将恶意评论判断标准扩展至“句子语境”,即便没有脏话也能积极识别侮辱性表达。NAVER集团持续升级,以阻止引发性不适、仇恨、贬低、歧视表达,以及利用符号、文字规避的恶意评论。
与此同时,2023年还反映了韩国互联网自律政策机构(KISO)的仇恨表达自律政策指南等,积极协作,营造健康的沟通空间。
NAVER集团负责人金秀香表示:“NAVER集团正持续强化Clean Bot的性能,以识别脏话、粗俗用语以及新出现的仇恨、贬低、歧视表达”,“今后将在集中屏蔽助长轻视生命、嘲弄受害者与遗属、仇恨内容的同时,广泛听取各方意见,进一步提升Clean Bot的性能”。






