2025-01-29 | 김성태 기자

三星集团也搭载“内容凭证”……能挡住深度伪造与假新闻吗 [深科技趋势]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

帮助辨别基于人工智能(AI)制作的图像或视频的“内容凭证”技术正受到越来越多关注。在深度伪造等AI滥用造成的受害案例日益频繁的情况下,Samsung Electronics(005930)在新款智能手机Galaxy S25系列中搭载了内容凭证技术,并作为首家智能手机制造商加入了“内容来源与真实性联盟”(C2PA,Coalition for Content Provenance and Authenticity)。Samsung Electronics是否会与C2PA成员Adobe、谷歌、NAVER集团、Meta、TikTok等一同,在强化内容透明性和解决AI副作用方面走在前列,备受关注。

据信息技术(IT)业界29日消息,Samsung Electronics的Galaxy S25系列支持内容凭证。内容凭证即提供有关内容出处及生成过程的信息。就像在食品包装上标注营养成分一样,在内容上也以元数据形式标示编辑者、制作时间与地点、编辑履历等信息。使用醒目形式水印的用户可利用Adobe Inspect、Content Credentials官网等查看详细信息,从而辨别通过AI生成的图像或视频。Samsung Electronics MX事业部CX室长、副社长金正贤22日(当地时间)在美国圣何塞举行的Galaxy S25发布会上解释称,“这都是为打造更透明的AI世界所做努力的一部分”。

Samsung Electronics还加入了主导内容凭证标准开发的C2PA。C2PA是2021年成立的全球联盟体。谷歌、微软(MS)、Meta、亚马逊、Adobe、英特尔、TikTok等科技企业,英国BBC、日本NHK等媒体公司,以及索尼等相机制造商也作为会员参与其中。NAVER集团于去年7月作为韩国首家企业加入C2PA。ESTsoft(047560)也在同年11月作为韩国第二家企业加入。

Samsung Electronics加入的C2PA正致力于建立对数字内容的信任。原因是基于深度伪造的淫秽内容侵害人格权、冒充特定人物的内容被用于假新闻与诈骗犯罪等问题日益严重。去年在美国新罕布什尔州举行的民主党初选前一天,曾发生美国总统乔·拜登的AI伪造声音鼓励拒绝投票的事件。此外,在台湾地区领导人选举中,也曾有多个可能对民进党不利的深度伪造视频扩散并引发争议。

以Samsung Electronics的加入为契机,数字内容透明性的扩散是否会加速备受关注。业界预计,作为首家加入C2PA的智能手机制造商,Samsung Electronics将提高利用AI生产数字内容的标准,为用户营造更可信赖的内容环境。Adobe内容真实性倡议(CAI)首席总监安迪·帕森斯评价称,“三星集团在Galaxy S25上实现了对AI生成图像的内容凭证,在向全球数百万消费者和创作者宣传并推广这一展示出处的重要工具方面取得了重大进展”。他还表示,“三星集团的这些努力将加速业界对内容真实性标准的广泛采用”,“期待其他智能手机及硬件制造商也加入这一潮流,以强化更透明、更可信赖的数字生态系统基础”。

不过也存在需要克服的课题。使内容凭证失效的手法也日益精巧,需要应对。以犯罪为目的制作的内容不会应用内容凭证技术,可能根本难以判断真伪。也有分析认为,AI开发商、智能手机制造商、内容平台的参与还需进一步增加。苹果、特斯拉首席执行官(CEO)埃隆·马斯克创立的xAI,以及近期引发热议的中国DeepSeek等均未加入C2PA。

阅读韩文原文