上月30日,旅游内容创业公司“沉迷旅行”的Instagram账号上出现了淫秽视频。被指为上传者的已故代表赵俊基的Instagram个人账号上出现了大量恶意评论。难以承受心理痛苦的他两天后发布了暗示极端选择的贴文,而该贴文也被恶意评论淹没。最终赵代表选择了极端方式结束生命。
Instagram决定本月内引入一套系统,由人工智能(AI)在用户按下发送按钮前提前识别负面评论,以避免今后再出现因此类网络霸凌(在线欺凌)而受害的人。
Instagram 15日以“提升网络霸凌认知”为主题召开线上记者恳谈会,公布了上述内容。新引入的系统会在用户写下负面评论、按下发送按钮之前由AI进行识别,发出“评论警告”,提示用户取消该评论或将内容修改为更温和的表述。Instagram相关人士表示:“随着新型冠状病毒感染症(COVID-19)导致社交距离措施长期化,社交网络服务(SNS)活动爆发式增加”,“为预防其中频繁发生的网络霸凌伤害,决定引入这一系统。”
Instagram当天还介绍了可以保护自身免受恶意评论侵害的功能。无需删除评论,通过评论过滤功能即可自动隐藏令人不适的评论。使用该功能后,这些评论对用户及关注该用户的人都不会显示。若设定不希望看到的特定关键词,也可让包含该关键词的评论不再显示。Instagram相关人士表示:“将支持用户在关注其他账号的状态下也能限制不希望的互动,从而应对网络霸凌。”
还将引入积极的保护措施。用户举报特定内容后,可以看到临时屏蔽用户及屏蔽、限制、取消关注等推荐处理方式。此外,如果认为Instagram的处理措施不够充分,还可通过“请求复核”申请重新审查。 /郑慧珍记者 madein@sedaily.com






