韩国互联网企业协会8日表示,其国内会员企业NAVER集团、Kakao集团和SK通讯(SK Communications)已通过共同宣言,旨在防止与选举有关的恶意深度伪造(利用人工智能制作的视频、图像合成伪造物)的使用。
NAVER集团、Kakao集团和SK通讯将开展恶意选举深度伪造的检测与快速处置、应对政策公开、为防止扩散而活跃交流以及提升公众认知等工作。
NAVER集团正在推进采用可确认内容来源信息的全球技术标准,并把掌握生成内容检测技术作为中长期目标进行研究。Kakao集团正准备引入在生成式人工智能(AI)图像生成模型“Karlo”上添加隐形水印的技术。SK通讯则通过在利用AI生成图像时对涉及主要政治人物姓名的搜索词加以限制,防止制作与选举相关的深度伪造。
此次共同宣言是主要信息技术(IT)企业为应对恶意选举深度伪造而自发组建的自律协议体活动的一部分。这些企业为在第22届国会议员总选举期间确立参与企业间紧密合作的基调,制定了此次共同宣言。
此次共同宣言中未列名的谷歌韩国、Facebook韩国、X(原推特)等海外大型科技企业,也将参与与韩国企业的自律协议体活动。上月,NAVER集团、Kakao集团、SK通讯、谷歌韩国、Meta韩国、TikTok运营商字节跳动韩国分公司等主要IT大企业曾决定组建自律协议体,以提升总选举和补选的公正性与可信度。






