“Facebook在判别社区平台上发布的内容时,利用人工智能(AI)提高事前处置率,但对于需要把握语境或意图的仇恨言论、排挤及集体霸凌,则借助另设的审核人力和专家的帮助进行管理。”
Facebook内容政策经理刘东妍28日在首尔江南区Facebook韩国总部举行的媒体恳谈会上如此表示。
Facebook的社区守则是关于平台内违规或允许内容的整体规则,其制定目的是帮助人们在自由表达的同时安全地使用服务。为此,Facebook将有害内容分为虚假账号、垃圾信息、成人内容、暴力及刺激性内容、恐怖主义宣传、仇恨言论、排挤与集体霸凌、毒品销售、儿童裸体图像及对儿童的性剥削、自杀及自残等10个项目。
据刘经理介绍,对于这些有害内容,Facebook在用户举报之前就由AI事先判别其有害性并予以删除。以第三季度为准,大部分有害内容的AI事前处置率超过90%。但仇恨言论和排挤的事前处置率分别仅为80.1%和16.1%。对此刘经理解释称:“AI对视频等动态图像判别较好,但仇恨言论和排挤中语境或意图很重要,接受者如何理解也很重要,AI判别尚不充分。”
为管理AI未能事先处置的这类内容,Facebook在全球投入了另设的约1.5万名审核人力。支持包括韩语在内的50多种语言,这些人员会就新政策或修订部分持续接受培训。
今后Facebook还计划持续投资AI及相关人力,以事先发现有害内容并应对用户举报。Facebook亚太地区政策传播经理索菲·沃格尔表示:“AI现在还能抓出滥用虚假账号的情况”,“将不断扩大利用AI进行的有害内容管理。”






