2017-05-15 | JEFF JOHN ROBERTS

FORTUNE FOCUS|巨怪猎人

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

<b><font color=ff0000>本文刊载于《财富韩国》2017年4月号。</b></font><br>

Alphabet旗下一个鲜为人知的部门,拥有保护社交媒体的战略。<br>

Jigsaw首席研究科学家卢卡斯·迪克森在谷歌纽约办公室摆姿势拍照。<br>你是否曾在社交媒体上被“喷子”(troll,译注:在网络论坛上激怒对方的人)攻击过?笔者有过。去年12月,白人至上主义者大卫·杜克(David Duke)一条嘲讽性的推文刺激了他的追随者,把我的推特账号变成了污言秽语的垃圾桶。满屏都是狂热吹捧纳粹的言论和令人不适的人身攻击推文。攻击持续了好几天。<br><br>我们正在与喷子的网络战争中败下阵来。仇恨与辱骂如雨点般袭来,人们纷纷放弃社交媒体,网站也在取消评论功能。谁愿意让令人厌恶的疯子统治网络社区呢?<br><br>幸运的是,这种悲观想法或许是多余的担忧。因为已经出现了能驯服喷子、重振文明网络讨论的新战略。<br><br>这项由谷歌母公司Alphabet内部智库Jigsaw开发的技术,可以利用人工智能审核海量的网络评论(这在过去是不可能的)。<br><br>首席研究科学家卢卡斯·迪克森(Lucas Dixon)为说明Jigsaw面临的课题,把喷子问题比作所谓的“拒绝服务攻击(denial-of-service attacks)”。这指的是攻击者为了让服务器瘫痪,用垃圾流量大量访问网站。<br><br>迪克森对此解释说:“不是让流量泛滥,而是让评论、社交媒体、话题标签泛滥,使其余的人一句话都说不出来,从根本上支配对话。”<br><br>恶意评论的泛滥不仅对个人致命,对媒体公司、零售企业——它们的业务大多以网络社区为中心——也同样致命。作为喷子研究的一部分,Jigsaw开始量化喷子造成的损害。例如在维基百科(Wikipedia)的案例中,Jigsaw可以测算针对某位维基百科编辑者个人的攻击,与该编辑者此后为网站贡献内容频率之间的相关关系。<br><br>解决网络对话脱轨问题的最新方法,可以在海量数据和深度学习中找到。快速发展的深度学习是人工智能的下属概念,模仿大脑的神经网络。深度学习最近也为谷歌翻译带来了划时代的突破。<br><br>在评论方面,Jigsaw从《纽约时报》和维基百科获取了数百万条评论,训练机器识别攻击性和不当特征。这意味着:目前《纽约时报》只对全部报道中约10%使用评论管理程序。但不久之后,就能利用经过训练的算法,把管理容量扩大到10倍。<br><br>不同媒体的评论语气和用词可能差异鲜明。但Jigsaw方面表示,自家程序可以适用于各种网站。这实际上意味着,小型博客和网络零售商也能应对评论,而不必担心网站被喷子刷屏。<br><br>技术发烧友(Technophiles,译注:狂热追逐新技术的人)似乎对Jigsaw的业务颇感兴趣。科技杂志《连线》(Wired)最新一期通过题为“互联网正义联盟”的特辑报道,对Jigsaw略显天真的理想主义项目大加赞赏。<br><br>但部分专家指出,Jigsaw团队或许低估了问题的难度。<br><br>近来受到关注的机器学习业务,集中于识别图像和解读文本。但互联网上的对话高度依赖语境。例如,训练机器学习去清除网络评论中的某句脏话,或许看起来很明确。但同一算法下,机器也可能把“活着真糟糕”或“我不想说我的工作很糟糕,但……”这类无恶意使用者的帖子一并过滤掉。要让计算机只过滤诽谤他人的辱骂,并非易事。<br><br>前谷歌软件工程师大卫·奥尔巴赫(David Auerbach)表示:“机器学习能理解句子的风格,但理解不了上下文或情感。在推文这样的短文本中更是如此。这是连人类都要学一辈子的东西。”他补充说:“Jigsaw项目在《纽约时报》这样的网站上可以成为有用的管理手段。但要用在推特或Reddit这类自由对话的场域,还有所不足。”<br><br>迪克森并未被这种怀疑态度所困扰。他说:“喷子就像拒绝服务攻击一样,是永远无法彻底解决的问题,但其影响可以被缓解。”迪克森相信,Jigsaw可以通过近来不断进步的机器学习技术驯服喷子,让网络礼节重新变得重要。<br><br>Jigsaw研究人员指出,喷子团伙——突然出现并集体倾泻恶意评论——中的一部分,被查明是个人或组织为模仿群体而使用的机器人。Jigsaw的程序正在迅速变得擅长识别并压制这类策略。<br><br>对于“评论管理程序每屏蔽一个脏话,喷子就会换成别的脏话,所以驯服他们是不可能的”这一主张,迪克森也提出了解决思路。他强调:“我们越是完善程序,攻击就会变得越有创意。”“但如果攻击过于有创意,谁都无法理解它,那它就不再是攻击了。这就是我们的终极目标。”<br><br>

被喷子占领的社交媒体<br>

2015~16年,NPR、路透社等知名媒体网站和博客删除了网页上的评论功能。<br>

<br>2015年7月,Reddit临时CEO埃伦·鲍(Ellen Pao)在遭受(用她自己的话说)“史上最大规模的喷子攻击”后辞职。<br>

<br>2016年7月,女演员莱斯利·琼斯(Leslie Jones)因喷子在她的推特账号上刷满种族歧视和性意味的图片而退出推特。她在最后一条推文中留下讯息:“你们不会知道他们有多邪恶。”<br>

2016年夏,喷子用蛇的图片破坏了泰勒·斯威夫特(Taylor Swift)的维基百科页面和社交媒体账号。<br><br>

Seoul Economic Daily 《财富韩国》编辑部 / BY JEFF JOHN ROBERTS

阅读韩文原文