“TikTok的首要任务是保护用户。”
11日(当地时间)在新加坡TikTok透明与责任中心(TAC)接受采访的TikTok相关人士反复强调:“相比追求收益,保护用户更为优先。”月活跃用户数(MAU)超过16亿的全球短视频内容平台TikTok,为展示其为防止用户接触有害内容并产生沉迷所作的努力而设立了TAC。除新加坡外,TikTok还在美国华盛顿特区、洛杉矶(LA)以及爱尔兰都柏林等共4地运营TAC。
TikTok当天向到访TAC的记者团直接介绍了内容审核流程和算法运行原理等用户保护原则。首先,违反社区准则的内容将被屏蔽。TikTok仅在去年第四季度就删除了约1亿7646万条有害内容,同比增长106.0%,为季度历史最高值。被删除的内容中“敏感成人主题”最多(33.3%),其后依次为危险武器、毒品等“受管制物品及商业活动”(30.1%)、危险挑战及自杀相关的“精神与行为健康”(15.5%)、骚扰欺凌及性剥削等“安全与公民意识”(13.5%)。TAC相关人士强调:“为营造自由安全的平台环境、激发创造力,我们对有害内容进行屏蔽。”
TikTok还介绍了利用人工智能(AI)识别内容有害性的原理。借助尖端技术,可高效屏蔽实时涌入的有害内容。TikTok的AI已学习了危险武器、饮酒、吸烟、赌博、极端主义、性行为等相关数据,并据此自动判定有害性,查出违反准则的情况。去年第四季度删除的有害内容中,72.7%(约1亿2830万条)是借助AI删除的。利用AI删除内容的比例较去年同期(51.2%)提高了21.5个百分点,AI正在证明其效果。TikTok相关人士表示:“我们也会综合考虑内容的语境”,“例如饮酒视频会暂缓删除,但如果出场人物是未成年人则立即删除”。
AI未能过滤的有害内容,由全球4万余名专业审核人员把关。TikTok韩国公共政策负责人柳东根介绍称:“拥有能够理解各地区文化与习俗的审核人员是TikTok的优势。”此外也会通过用户举报删除内容。
TikTok还说明称,其会防止算法只推送特定偏好内容从而强化用户偏向性的“过滤气泡”现象。做法是当符合用户喜好的内容推送比例超过60%时,就混入其他类型的内容。对于恶意深度伪造等AI内容引发的问题,TikTok也已着手解决。最近,不仅对使用TikTok AI特效制作的内容,对在其他公司平台生成的生成式AI内容也开始自动加注“AI生成”标签。TikTok东北亚信任与安全团队合作经理梁秀晶表示:“上月我们与‘内容来源及真实性联盟’(C2PA)签署了旨在落实内容透明度政策的合作协议,在视频平台中首次实施加注AI生成标签的政策。”






