人工智能(AI)主播开始播报新闻。表情、语调乃至口型,都像是在看真人主播。
中国官方媒体新华社上月推出的AI主播“新小萌”,是基于真实主播的声音和面部数据诞生的。虽有作为基准的真实模型,但新小萌是此前并不存在的新面孔。新小萌是真主播,还是假主播?
这是一个真假难辨的时代,这是AI创造的新景象。侮辱特朗普的贝拉克·奥巴马视频看起来像真的一样。创造出新小萌和“假”奥巴马的这项富有创意的技术,就是GAN(Generative Adversarial Network),即生成对抗神经网络。
由两个机器学习模型构成的GAN 2014年,谷歌大脑的伊恩·古德费洛在全球性机器学习学会NIPS(Neural Information Processing Systems)上首次发表的GAN技术,是AI业界发展最快的技术。去年,美国麻省理工学院每年发布的“MIT科技评论”还将其选为十大创新技术之一。
GAN技术的目的是制造出“像真的一样的假货”。为此要使用制造假货的生成者机器学习模型(Generator)和区分真假的鉴别者机器学习模型(Discriminator)两种模型。发表GAN的伊恩·古德费洛将其比喻为“假币犯(Generator)与警察(Discriminator)”。
GAN制造像真的一样的假币、像人一样的AI主播的过程如下。首先,生成者基于既有数据创造出新的作品。进入鉴别者阶段的作品要接受“是否是假币”的检验。而在这里,粗糙的作品会被鉴别者过滤掉。例如,基于“小狗”的数据生成新的小狗图像时,生成者基于数据随机生成的图像中会混有难以称为小狗的图像。鉴别者只让与真实小狗图像相比毫不逊色的图像通过。
GAN通过生成者与鉴别者两个机器学习模型相互竞争的过程反复进行并积累数据,如此在提高效率和准确度的同时学习和进化。GAN被评价为奠定了摆脱被动学习、能够主动学习的无监督学习AI的基石。
应用于图像、语音、视频等各领域 GAN应用最多的是图像生成与合成、计算机视觉等领域。20日英伟达发布的“GauGAN”也是生成图像的GAN。GauGAN取名自画家保罗·高更,因为它能把用户的涂鸦也变得像保罗·高更的画作一样。例如,用户画一条绿色的线并选择“树枝”标签,GauGAN就会分析图画并赋予接近照片的效果。这不是简单合成,而是分析了数百万张以上图像数据的GauGAN模仿照片重新绘制。
Facebook开发的Real Eye Opener可将闭眼的照片转换为睁眼的照片。通过GAN制造出像真的一样的假眼睛,并自然地贴合到照片上。
在韩国国内,NAVER集团也曾将GAN应用于网络漫画。2017年公开的NAVER集团网络漫画《遇见了》中,用户用应用程序自拍后,通过GAN把用户的照片变成作家画风的漫画主角形象,使其能够成为漫画的主人公。
GAN也被用于语音和视频。最广为人知的案例是去年8月华盛顿大学制作贝拉克·奥巴马视频的“深度伪造”技术。深度伪造是深度学习与伪造的合成词,是利用AI将人物图像合成到视频中的GAN技术,其起源于在网络社区上传好莱坞演员虚假色情合成物的用户ID。
易被滥用,但规范与标准仍不足 GAN也暴露在犯罪诱惑之下,因为它可以天衣无缝地制造出名人虚假色情合成物等刺激性假视频和假新闻。源代码在网上公开、任何人都能制作这一点也引发担忧。2016年美国总统候选人马尔科·卢比奥曾把深度伪造比喻为“核武器”。
专家们担忧利用AI的犯罪,但与AI应用相关的国际标准和规范才刚刚进入讨论阶段。在韩国国内,利用深度伪造制作和传播淫秽视频属违法行为。合成名人照片则构成肖像权侵害。针对AI滥用的直接法案尚未出台。
wonjaeyeon@decenter.kr






