2023-08-30 | 윤민혁 기자

谷歌以不显眼的“水印”识别AI图像

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

谷歌DeepMind公开了为人工智能(AI)生成图像添加不可见水印的“SynthID”技术。与加入标识的一般水印不同,该方式是留下只有AI才能识别的像素(点)级痕迹,从而识别生成图像。目前仅适用于谷歌的图像模型,但如获广泛使用,预计可防止利用AI照片的“假新闻”等。

29日(当地时间),DeepMind在谷歌云大会上公开了针对AI生成图像的水印与识别工具“SynthID”。SynthID并非加入可见水印或在文件中记录由AI生成,而是在构成图像的每一个点上留下由AI制作的痕迹。目前使用最广泛的AI图像生成工具“DALL-E 2”会在图像下方留下小水印,但可通过裁掉该部分加以规避。相比之下,SynthID即使水印部分被裁掉或文件被篡改,仍可识别。此外,即使加上滤镜或经过压缩导致画质下降,也依然能判定为AI图像。

SynthID本身也是通过AI学习打造的技术。受AI学习特性所限,无法100%识别留有水印的图像。但可以区分“有可能”含有水印的图像与极高概率含有水印的图像。也就是说,可以识别出可能为假的图像,从而筛选出“100%真实的照片”。DeepMind表示:“SynthID并非针对极端操纵的完美防御手段,但可为AI生成内容工作增加责任感”,并说明“今后除图像外,还可适用于音频、视频和文本等由AI生成的内容”。

SynthID将优先仅在谷歌的生成式AI平台Vertex AI上适用,因此无法区分所有AI生成图像。从长期看,若类似水印技术实现标准化,预计可减少AI图像带来的混乱。此前微软(MS)等AI领先企业也曾表示将在AI图像上留下水印,预计IT业界整体的相关技术标准化讨论将加速。

阅读韩文原文