“科学遇上感性,送来了不流泪看不下去的感动。”
这是一位YouTube用户在已故歌手“龟人”任成勋的演出视频下留下的评论。这并非过去的节目出演片段,而是9日播出的Mnet《AI音乐项目再一次》节目的一部分。12年前去世的故人,以生前的模样演唱今年播出的电视剧《梨泰院Class》原声带的场景被再现。截至14日,该视频片段在YouTube的播放量已超过250万次,反响热烈。
在因新型冠状病毒肺炎(COVID-19)而饱受痛苦的社会,人工智能(AI)技术带来了感动。通过深度学习学习了龟人表情、声音等数据的AI,原样再现了他生前的样貌。该技术可在教育、文化艺术等各个领域得到无穷的应用。
但AI技术也可能像把深度学习与“fake”(虚假)合成的“深度伪造”一词那样被滥用。据荷兰安全企业Deeptrace数据,网上发布的深度伪造视频中96%为非法色情内容。从伪造声音的电话诈骗等欺诈,到冒充政界人士制作假新闻,滥用范围十分广泛。
韩国国内要阻止深度伪造这类滥用,看来力有不足。相关法律仍处于起步阶段。直到6个月前,深度伪造非法色情视频的制作、传播行为才成为处罚对象;9日,允许受害者代理人要求删除深度伪造非法色情内容的法案才通过国会全体会议这一门槛。政策制定者的认识仍停留在旧时代。典型例子是,3月在讨论深度伪造非法色情处罚法案的过程中,时任韩国法务部次官金五洙表示:“青少年经常在自己的电脑上制作合成视频。”从社会、文化、教育视角出发的综合讨论只能说仍然不足。
若错过当下这一时刻,AI视频合成技术将只被刻上“非法影像物”的印记。希望政府和国会牢记国会立法调查处企划管理官金有香的话:“深度伪造是产业潜力巨大的技术,但它蕴含着与以往虚假信息完全不同层级的危险性。” /kim@sedaily.com






