2024-02-28 | 김성태 기자,윤지영 기자

大选前夕……NAVER集团、Kakao集团新增“AI提示语”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

NAVER集团和Kakao集团等韩国平台企业将为人工智能(AI)生成的内容加上“标签”。分析认为,这是在第22届国会议员总选举及补缺选举前,为防止滥用AI制造虚假信息所造成的危害而制定的应对措施。

据信息技术(IT)业界28日消息,NAVER集团正在开发HyperCLOVA X等AI生成图像的水印技术,即为AI生成或编辑的图像加上标签以便识别。Kakao集团也正在考虑为Kakao Brain的AI图像生成模型“Karlo”引入隐形水印技术。普通用户看不到水印,但技术上可以判断是否由Karlo生成。

随着对深度伪造负面影响的担忧加剧,NAVER集团和Kakao集团等平台企业似在筹备应对方案。合成泰勒·斯威夫特照片的深度伪造色情图像在X(原推特)等平台扩散,警惕性随之提高。今年是包括韩国和美国在内的76个国家举行总统选举、总选举等全国性选举的“选举之年”,滥用AI扩散虚假信息令人担忧。虽不是深度伪造视频,但拼接尹锡悦总统总统候选人时期电视演讲画面的虚假操纵视频已在流传,担忧成为现实。

全球科技巨头也决定阻断深度伪造的负面影响。OpenAI、谷歌、Meta、TikTok、X等20家企业近期在德国慕尼黑安全会议(MSC)上达成协议,将自愿采取检测并标注可能误导选民的内容等措施。

除水印外,NAVER集团还着手阻止滥用深度伪造内容的扩散。最快本周将公布在深度伪造相关关键词搜索结果中显示警告语句的方案,正考虑在搜索“深度伪造制作方法”等时显示警告文。NAVER集团自本月初起,在用户向社区、博客上传图像等内容时,显示关于含虚假信息的深度伪造视频的提醒文句,提示“含虚假信息的深度伪造视频等可能依据相关法律及使用条款受到制裁”。这是为防止通过NAVER集团的社区服务扩散滥用深度伪造的内容而采取的措施。NAVER集团还通过AI内容过滤技术“Green Eye”实时拦截有害深度伪造内容。

NAVER集团和Kakao集团也在应对通过新闻评论传播虚假信息的行为。NAVER集团计划近期上线用户可直接举报涉选举虚假信息新闻评论的功能,并新设单独的举报中心版块,连接至选举管理委员会渠道。在集中监测期间,已扩充安全团队内的专职人员,加强24小时监测,并建立各部门热线,以便在出现问题时迅速应对。NAVER集团还将在选举期结束后,增加对以报道形式出现的虚假帖文举报的“韩国互联网自律政策机构(KISO)假新闻举报中心渠道”指引,并对AI生成的评论进行监控。

业界层面也在自律探讨应对方案。NAVER集团、Kakao集团、SK通讯、谷歌韩国、Meta韩国、TikTok运营商字节跳动韩国分公司等隶属韩国互联网企业协会的平台企业,也组建了自律协商体,以提升公正性与可信度。协商体计划制定包括企业间防止恶意选举深度伪造传播的讨论等应对方案,并在近期公布。

阅读韩文原文