2020-01-08 | 오현환 논설위원

[万波息笛]深度伪造

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

2018年4月,YouTube上出现一段美国前总统贝拉克·奥巴马猛烈抨击美国总统唐纳德·特朗普的视频。“我只说结论。特朗普总统是个十足的蠢货(dipshit)。”美国政界一片哗然。因为距大选结束仅一年半左右,余怨尚存,而该视频真假难辨。美国一家网络媒体随即说明称“这是为了警示深度伪造(deep fake)而制作的假视频”,争议才得以平息。

Deepfake是英文深度学习(deep learning)和伪造(fake)的合成词,是一种以人工智能(AI)为基础合成人物图像视频的技术。一个AI合成视频,另一个AI自行判别视频真伪,反复合成与判别直至判定“不是假的”,从而变得极为精巧。深度伪造主要以政治人物和明星等名人为对象制作,也被用于制作假色情片以报复分手的女性。据荷兰一家安全公司统计,截至去年9月,网上流通的深度伪造视频达14798个。其中96%为色情内容,25%使用的是K-POP韩国女艺人的脸。

随着深度伪造成为全球性问题,美国众议院去年7月要求美国政府和网络公司制定应对措施。Facebook和谷歌着手开发深度伪造检测技术,亚马逊等则决定赞助深度伪造识别竞赛。美国众议院已提出法案,强制在平台内建立检测工具并可对传播者予以拘留。但也有人担忧,检测技术将追不上传播扩散的速度。

有消息称,在今年美国大选前,Facebook决定禁止上传深度伪造视频。原因是担心大选中真假难辨的深度伪造视频可能颠覆选举结果。不过据说,用于讽刺或恶搞的合成视频将予以保留。韩国也将在4月举行国会议员选举。我们的当局和网络企业是否正在研究应对深度伪造的方案——无论是针对选举还是普通人受害,令人关注。/吴贤焕 论说委员

阅读韩文原文