Instagram上排挤、霸凌类帖文的事前处理率高达93%,背后的功臣是人工智能(AI)。目前AI在把握语境方面仍有局限,但随着对文化语境与翻译的学习推进,AI的事前处理率有望进一步提高。
在Facebook 12日举行的年度社区准则说明会上,Facebook亚太地区内容政策团队经理刘东贤表示:“在判断上传的帖文是否属于排挤或霸凌他人的内容时,把握语境和意图非常重要”,“由人来甄别,同时也借助AI的帮助”。
在甄别这类帖文的过程中,AI的作用是在难以确定帖文是否属于排挤、霸凌时将其上报给人工。尤其是在看起来存在问题但无法作出判断时,会将其转交给人。
从今年4至6月按帖文类型看AI的事前处理率,仇恨言论为94.5%,儿童性剥削及性虐待影像为99.3%,而排挤、霸凌类帖文的处理率仅为13.3%。虽然目前仍是辅助角色,但AI也会把握帖文正文与评论之间的语境来作出决策。Facebook传讯理事朴相贤解释:“比如仅凭帖文中‘某某穿了衬衫啊’这样的内容无法确认是否为反讽语气,但通过后续评论的负面性或正面性,AI可以把握语境。”
借此,AI也会对与自杀相关的帖文进行分类。若用户留下似有自杀暗示的文字,先将其归类为自杀帖文,随后根据熟人评论的反应再次分类,并决定是否通报相关机构。
朴理事强调:“AI目前处于学习阶段,仍有不足,但随着对语境和各国文化的理解增加、翻译技术提升,将能提供更好的服务。”
Facebook还就哪些内容会被删除说明了社区准则。社区准则是Facebook与Instagram的内容许可规则,涵盖△暴力及犯罪行为△安全△令人不适的内容△完整性与真实性△知识产权等5个领域共26个条目。
例如,含有对日本人的种族侮辱语的帖文会因仇恨言论被屏蔽,而“国粹主义是精神病”则不会被屏蔽。两者的区别在于,是否针对被贬损者无法选择的领域进行攻击。朴理事解释:“国粹主义等属于本人可以通过信念选择的领域,但生为日本人则没有选择的余地”,“对于可受保护的类别问题,以是否可选择作为判断标准。”
Facebook已将社区准则运营人力扩大至3.5万人,为2017年的3倍。其中约1.5万名审核人员按规定以365天24小时体制处理日均超过100万件的用户举报。预计AI替代这些人力的比重将逐步提高。 /记者郑惠珍 madein@sedaily.com






