▲Facebook档案:排名第76位,营收407亿美元,利润159亿美元,员工人数2万5105人,股东总回报率(2012~2017年年均)31.4%
社交网络企业Facebook近期雇用了数千名审核人员,并运用人工智能这一最新技术,以根除仇恨言论和犯罪行为、重建用户信任。这同时也意味着,公司将更细致地研究数十亿用户。BY MICHALL EV-RAM
5月1日上午,Facebook用户在每次信息流刷新时,都会在20分钟内看到一个令人费解的提问框。问题是:“本帖是否包含仇恨言论(hate speech)?”下面还有“是(yes)”和“否(no)”两个回答按钮。点击“是”,就会弹出写有下一个问题的提示框;点击“否”,提示框立刻消失。此前社交网络用户也可以举报可能存在问题的帖子,但如此直接的提问恐怕从未见过。更令人吃惊的是,每一条帖子都会出现这个提示框。哪怕是毛茸茸的小猫或酒店早餐的照片,也会弹出同样的提问框。
消息瞬间在网络上传开。一位Twitter用户开玩笑说:“纽约大都会队的球迷终于可以把Facebook上的帖子举报为‘仇恨言论’了。”更荒唐的是,在Facebook年度开发者大会F8召开的5月1日,CEO马克·扎克伯格(Mark Zuckerberg)在自己账号上更新的“即将推出(coming soon)”的信息流,也弹出了同样的提问框。Facebook安全与保障团队副总裁盖伊·Logen(Guy Rosen)当天下午接受《财富》采访时解释说:“连扎克伯格的帖子上都出现了‘是否为仇恨言论’的提问。”
这一询问是否属于仇恨言论的功能其实是一个漏洞。Logen坦言:“这是一次仓促上线的‘未准备好的实验’。”这一失误已被公开归因于Logen。不过他并未为这项“技术”辩解。Logen强调:“如果明智、慎重地使用提问功能来引出并收集反馈,公司将获得一件有力的武器。”据他介绍,Facebook打算利用这些武器,对抗平台上蔓延的故意骚扰以及攻击性、非法的行为。这也有助于人工智能系统区分故意的虚假举报与真正违反使用规范的帖子。
回头来看,5月1日扎克伯格发帖称“将更多地分享目前为保障人们安全所采取的措施”,讽刺地显得十分应景。
反对Facebook对帖子进行管理的,恐怕只有言论自由绝对主义者。拥有22亿用户的Facebook,其内容以无可比拟的速度扩散至世界各地。从用于操纵选举的“假新闻”,到种族主义者或恐怖分子的宣传广播,再到通过Facebook Live直播的攻击性影像或自杀直播,海量的有害内容层出不穷。由此,包括美国在内的全球批评者提出了前所未有的大量抗议。他们呼吁Facebook加强自我审查,或由监管当局对Facebook进行审查。
近期这家社交媒体巨头公开了大量违规案例。5月中旬,Facebook披露仅今年一季度就查处了8.37亿条垃圾信息、虚假广告、诈骗、恶意链接或仿冒品销售的帖子,虚假账号也达到5.83亿个,这些账号全部被停用。此外还有2100万条“身体裸露及性行为规定违规”、3400万条“暴力描写”、2500万条仇恨言论。ISIS与基地组织或相关恐怖组织的宣传内容也达到1900万条。Facebook的使命是让全世界联系得更紧密,但并非意在这种方式的“紧密”。
加州大学洛杉矶分校教育与信息研究学院研究社交媒体的助理教授莎拉·罗伯茨(Sarah Roberts)解释说:“部分原因也可以在Facebook的商业模式中找到。”她说:“公司不崩塌、又能鼓励用户自发参与的唯一办法,就是让他们免费上传内容。但如果引导世界各地不知底细的用户以自己的方式表达自我,就必然会遇到形形色色的人群。”
当然,Facebook陷入困境的原因并不只是表达方式。事实上,剑桥分析(Cambridge Analytica)丑闻才是直接原因。第三方开发商收集了8700万Facebook用户的数据,并交给唐纳德·特朗普及其他候选人用于2016年大选。扎克伯格因这一个人信息侵害问题,在国会听证会上度过了痛苦的两天。部分立法者还提及假新闻、毒品销售广告等,全力向扎克伯格施加更大压力。听证会上他表示:“公司对Facebook上的内容负有责任。”对互联网企业而言,这是令人吃惊的承认。因为过去多年,Facebook一直主张“只提供平台,与网络上的言论、行为或所售商品受到的批评无关”。
Facebook计划到年底将查处并删除不当内容的审核人员及其他“安全与保障”人员增加一倍以上,至2万余人。由于这些人无法审查庞大网络上的数十亿条视频、聊天及其他帖子,Facebook也在同步开发辅助他们的人工智能技术。
今年春天,《财富》在Facebook位于加州门洛帕克(Menlo Park)的总部用数周时间观察公司政策如何执行。结果政策的矛盾点清晰显现:审核人员或人工智能系统若要更有效地工作,就不得不侵入个人信息。审核人员将更细致地查看用户的照片、评论和更新。为提高模式识别能力,人工智能工具也会细致查看用户的帖子。换言之,即便是用户的“非公开”消息,Facebook的人工智能系统也已在扫描。特别是在捕捉“高风险”帖子的过程中,人类与人工智能系统都可以查阅用户的历史记录。
罗伯茨说:“这种监视体系如同双刃剑。”成本也不容小觑。Facebook预计2018年总费用将比2017年上升45%至60%,原因就在于审核人员及人工智能监视系统的支出(公司并未单独统计这部分监视成本)。
当然,这样的金额Facebook完全承担得起。今年在《财富》500强中位列第76位的Facebook,尽管近期风波不断,财务上并未遭受严重打击。一季度营收同比增长49%,升至120亿美元。剑桥分析丑闻后市值曾蒸发1340亿美元,但如今股价已回到此前水平。长期跟踪Facebook的Cowen首席研究分析师约翰·布莱克利奇(John Blackledge)分析称:“必须进行集中投资,以便‘监视体系’能够实质性影响企业利润率。”
这部分对Facebook来说也不是可以吝惜投资的领域。失去几位挑剔的用户,不会伤及企业经营。但如果占营收98%的广告主离开,公司就可能陷入巨大困境。目前Facebook主张业务上并未受到重大打击。然而部分广告主早在剑桥分析丑闻之前,就已对假新闻或犯罪行为的存在提高了担忧的声音。通过强化政策或可构建更安全的用户环境,但这种监视必然要付出巨大代价。如果Facebook要收集、审查包括个人数据在内的海量信息,用户会就此放任企业细致查看自己的帖子吗?Logen强调:“我们非常慎重地看待用户隐私,并以此为前提构建系统。”然而用户越是详细了解Facebook的“净化努力”,混乱就越会加剧。
某个春日上午,30多名高管聚集在门洛帕克Facebook23号楼,围绕“如何让网络识别仇恨言论”等主题展开了充实讨论。这样的讨论每两周举行一次。这是为更新公司内容标准论坛(Content Standards Forum)相关规定、界定何种行为跨越了“无礼”与“不可容忍”之间界线而设立的讨论场合。
Facebook请莫妮卡·比克特(Monika Bickert)主持该论坛。检察官出身的比克特5年前作为公司首位保障团队法律顾问加入。她与罗森密切协作,推动公司建立执行其团队所制定政策的机制。两人还与掌管公司内容审查员增员等事务的全球运营副总裁贾斯汀·奥索夫斯基(Justin Osofsky)合作。如果把Facebook的恶性帖子比作火灾,这三人就相当于为灭火而传递水桶的接力队(bucket brigade)。
个子高、身材结实、一头红发的比克特,说话直率得与社交网络格格不入。性犯罪者、斩首视频等Facebook不愿触碰的话题,她也毫不回避地谈论。与理想主义的高管不同,她对并非所有用户都出于善意使用Facebook这一点并不感到意外。她说:“我们处理的滥用案例,与检察官在现实生活中面对的案件别无二致。”
比克特的团队中还有主题专家(Subject Matter Expert)和政策专家。他们的专业领域既令人印象深刻,又略显阴郁。不妨想想:前反恐专家、强奸危机咨询师、仇恨团体研究者等。他们通过协作,制定可以查处并根除现实世界中已屡见不鲜的恶劣行为的可执行政策,同时让平台能够扮演守护言论自由的堡垒。比克特强调:“如果Facebook不是安全的平台,人们就会不愿使用。”
然而在全球网络上界定“不当性”极为困难。想想仇恨言论。特定词汇的意图非常难以把握:例如某个葡萄牙语表达在巴西是种族主义辱骂,在葡萄牙却可能不是。语言还具有流动性:俄罗斯人和乌克兰人一直使用特定表达来描述对方,但近几年两国之间发生冲突,导致部分词汇比以前带有更强的仇恨含义。
为建立更透明的规则,Facebook去年4月首次公开了长达27页的“社区准则”。这些规定以极为平淡的口吻描述刺激性内容(例如“不得发布以任何形式描写或宣扬未经同意的性接触、残忍行为、恋尸或人畜性行为的内容”等)。此外令人意外的是Facebook并不禁止的内容。例如制造爆炸物的方法,若内容出于“科学或教育目的”便被允许。犯下两次以上杀人罪的人不能使用Facebook;但仅犯下一次杀人罪的人,只要帖子内容与杀人无关,就不会被逐出这个“点赞”王国(理由是,人们可能因事故或正当防卫而杀过一次人,但杀害多人者故意杀人的概率更高。相反,宣传或鼓励任何种类的犯罪都是被禁止的)。
比克特就这些标准解释说:“这未必是所有人都认同的定义,但我们至少希望给出明确的定义。”Facebook计划在未来几个月就明确性问题举行多场“互动沟通”会议,借此从公众和媒体获得关于规定的反馈。但最终允许什么、禁止什么,取决于企业的决定——即便是生死攸关的重大问题也是如此。
去年春天,Logen组建了一支由工程师构成的团队,启动“集中攻关”工作。团队成员放下一切事务,全力解决问题。这确实是非常严重的问题:用户开始利用刚刚推出的视频流服务Facebook Live宣布自杀意图,甚至直播实际自杀场面。
身着黑色T恤、牛仔裤和灰色一脚蹬(slip-on/*译注:无需系鞋带即可穿着的鞋)的Logen,看起来就像典型的硅谷技术人员。他略显淡然的态度,甚至会让人一时忘记他那支约12人的攻关团队所处理的Facebook Live悲剧问题何等紧迫。Logen坐在去年组建攻关团队的同一间会议室的椅子上解释说:“目的是给已经在推进的工作加速。”他的团队在过去两个月内展开工作,得出了关于如何监控内容的案例研究。这项工作也显示出此类努力将发挥多么强大的影响力。
Facebook并不公开自身网络上与自杀企图相关的数字。但通过更广泛的数据可以估量问题的范围。在美国,每年有4万5000人自杀,130万人尝试自杀。美国人口为3亿2500万人,而Facebook用户超过22亿人。传播自杀警示的非营利组织SAVE的常务理事丹·赖登伯格(Dan Reidenberg)呼吁:“Facebook必须极其严肃地对待这个问题。”
Facebook在攻关期间及之后,在赖登伯格的支持下设计出能够帮助需要帮助者的政策,同时减少平台上大量具有冲击性——具“传染性”或可被模仿的——内容。公司政策现在规定,删除“可能鼓励自杀或自残行为、包括实时描写自杀的”内容。但同时建议“不要删除自残直播影像,因为亲人和监管当局可以提供帮助”。
由于这种区分极为困难,Facebook雇用了3000余名审核人员。这次史上最大规模的增员,目的是识别处于危险中的用户视频。为支持审核人员,工程师开发了改进的审查工具。例如审查员可以利用“速度控制”轻松在直播影像中跳转,还可使用指定影像自动标记、以及显示视频观看者反应激增的片段——这种标记意味着直播者可能正在自残——的“红外热力图”等。
Facebook主张大多数审核人员都在接受持续培训,但并未向《财富》公开培训所使用的资料(其中包括如何应对涉及处方药或枪械等“受管制物品”的内容)。培训范围之广令人吃惊。即便以培训和最新技术工具重装上阵,注视潜在自杀情形的人仍要承担情绪强度高、易受影响的工作。他们能否承受这份艰难的工作,仍是待解的问题。与雇用内容审查员的Twitter或YouTube等其他IT企业一样,Facebook也不愿公开审核人员的资格要求或薪酬。公司表示所有审查员都在接受心理咨询。正在休育儿假的奥索夫斯基在接受《财富》电话采访时坦言:“这确实是一份辛苦的工作。”
正因如此,技术的作用更显重要。Facebook现已部署能够探测自杀相关帖子的人工智能系统。软件会检索“你还好吗?”这类语句,向人类审查员发出警报,并向看似处于危险中的用户提供自身资源,也可以向该用户的朋友发出提醒以便提供帮助。在某些环节,聊天机器人还可发送关切信息、自动联络紧急救援人员,做出更积极的应对。
Logen解释说:“自去年实施集中攻关以来,已能够向紧急救援人员通报1000多起自杀风险案例。”这样挽救生命是巨大的成果,而随着对软件依赖度的提高,将会有更多进展。这正是赖登伯格对人工智能工具持乐观态度的原因。他表示“技术已成为减少全世界面临的自杀风险的希望”,同时也承认“这同时也是未知领域”。
在全球层面评估风险、解读帖子,实际上是前所未有之事。为高效完成这项工作,Facebook将评估和分析更多用户数据。
人工智能已经提供了快速的捷径,因为它能在短时间内审查大量信息。在性剥削或非法裸露方面,软件已能自行探测乳头裸露。人工智能工具如何学会这一点?因为它研究了大量照片,也就是用户的照片,并从中寻找模式。但即便技术能识别乳晕,也无法区分那是哺乳照片这类被允许的身体部位描写,还是头号禁止内容“报复性色情”。
技术无法区分的细微缝隙,由人类通过监视来填补。凭借更多信息与语境,才能做出更基于信息的决策。Facebook内容管理人员强调,审查员不会接触与当前问题无关的数据。Logen解释说:“内容审查员使用的工具,基于所审查内容的类型只进行有限度的审查。”这番话的含义是,Facebook并不需要对用户事事监视,就能删除仇恨言论或提供帮助。
然而这条界线该如何划定?究竟多少内容量才算充分?这是Facebook今后必须在幕后决定的问题。无论我们是否接受这种选择性交易,以安全为代价允许Facebook更轻易地接触我们的数据,都是一个过于复杂、难以用“是/否”简单划分的问题。
▲我的数据在哪里?
利用用户数据为广告主提供支持,仍是Facebook商业模式的主要策略。但这部分预计将发生巨大变化。
3月中旬以来发生了许多事。关于已破产的英国数据企业剑桥分析如何不当获取用户信息、针对8700万Facebook用户编制选民档案(以及如何把数据卖给大选候选人)的报道铺天盖地。公众抗议如潮,CEO马克·扎克伯格不得不在议员、用户和媒体面前展开“道歉之旅”。
此后Facebook开始向数百万用户告知其信息已被泄露。随后加强了对第三方开发者可使用数据范畴的限制,并对平台上所有接触海量数据的应用启动全面调查,以识别其他潜在的信息滥用(据5月14日公布的最新调查内容,已调查数千个应用,其中约200个被暂停接入Facebook平台)。到5月底,Facebook及其他互联网企业必须遵守《通用数据保护条例》(GDPR)。GDPR是为保护欧盟公民个人信息而新采纳的法规,强制要求保障用户广泛的控制权限。用户可以访问或删除个人信息,可以提交集体诉讼形式的申诉,也可以下载自己的数据并转移给竞争对手。GDPR还以对企业极为痛苦的方式大幅提高了标准:违规企业须缴纳相当于年营收4%的罚款。对Facebook而言,这意味着仅一次违规就要缴纳16亿美元罚款。
翻译 金雅凛 rlatjsqls78@naver.com






