继Facebook母公司Meta预告将实施让用户能够识别人工智能(AI)生成图像的政策之后,ChatGPT开发商OpenAI也决定为其AI生成的图像加上标签(label)。上月合成流行歌星泰勒·斯威夫特照片的深度伪造色情图像在社交媒体X(原Twitter)等平台扩散引发争议,此举似是为此着手制定应对措施。
OpenAI于7日(当地时间)表示,计划为"DALL·E 3"生成的图像加上内容来源及真伪确认联盟(C2PA)的水印。目的是让用户能够识别AI生成的图像。
C2PA是用于确认媒体来源及相关信息的开放式技术标准,由微软、Adobe、英特尔等企业主导。
数字水印以元数据(表现数据结构、属性等的资料)形式存在,在图像上无法看到,可在诸如Content Credentials Verify之类的网站上确认图像是否由AI生成。
OpenAI表示,网页版中"DALL·E 3"生成图像的元数据已包含C2PA,计划到12日将其扩大至移动端用户。
OpenAI同时补充称,"水印可以被轻易去除","这并不是完美的解决方案"。
OpenAI此次发布,正值美国国内要求对AI生成的深度伪造(Deep fake,用AI制作的视频、图像、语音伪造物)图像进行监管的呼声日益高涨之际。
此前,Facebook母公司Meta于6日表示,不仅对使用自家AI工具"Meta AI"制作的图像,也将对使用外部AI工具制作的内容加上"Imagined with AI"标签(label)。
谷歌也于1日在其AI聊天机器人服务Bard中新增图像生成功能,同时决定应用由谷歌DeepMind开发的水印。






