2019-11-23 | 양철민 기자

IT巨头们:“应对深度伪造视频”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

在明年美国大选前,Facebook、推特、谷歌等信息技术(IT)巨头正努力防止“深度伪造”视频扩散。深度伪造指利用精巧的机器学习算法伪造的图像或视频。它能把知名政治人物或艺人的面孔天衣无缝地合成到他人的视频上,制造出其从未有过的发言或行为,几乎无法辨别视频真伪。

据《华尔街日报》23日报道,该媒体指出:“迪士尼为在部分《星球大战》影片中加入角色而使用了这一算法,深度伪造技术虽也用于无害的应用,但同样可被用于恶意内容制作。”图像编辑软件公司Adobe副总裁达纳·拉奥表示:“制作假视频的技术进步太快,用技术识别深度伪造很快将变得非常困难”,“这场较量将成为军备竞赛。”意即面对深度伪造制作技术的发展,识别一方也将被迫发展相关技术,形成竞争。据网络安全初创公司Deeptrace统计,今年8月网络上的深度伪造数量增至14678件,为去年12月的2倍。

信息技术(IT)巨头们也已行动。谷歌20日更新政治广告规定,宣布今后禁止在政治广告及其他广告中使用深度伪造。推特本月初也在探讨,若被伪造的照片、视频或音频上传至其平台,将予以识别并标注。推特相关人士表示:“这类合成媒体或虚假信息会削弱公众信任,并侵蚀就核心议题进行建设性讨论的能力。”

Facebook、微软与亚马逊携手6至7所大学,将从下月起启动“深度伪造识别挑战赛”。该项目旨在研究识别和防止为误导公众而伪造的媒体内容的新方案。不仅如此,Facebook还收集了10万条由演员出演的视频,供研究人员开发和测试识别深度伪造的系统使用。谷歌也构建了可用于磨练深度伪造识别研究的视频目录。

阅读韩文原文