2024-02-04 | 김성태 기자,양지혜 기자

按下“核按钮”的金正恩视频公然流传……“需加水印标识、开展素养教育”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

上月31日,YouTube频道“BigBig Politics”上发布了一段视频,画面中朝鲜国务委员长金正恩面带笑容按下令人联想到“核按钮”的红色按钮。当然,这并非真实画面,而是用人工智能(AI)技术制作的“深度伪造”内容,但不能排除其对安保议题敏感的选民产生影响的可能性。拥有564万订阅者的YouTube频道“只是普京”上传了俄罗斯总统弗拉基米尔·普京与金正恩进行视频通话的深度伪造视频。虽然附有“恶搞”或“梗图”的说明,但这暗示AI随时可以让知名人物出镜、散布并非事实的虚假信息。庆熙大学经营学、大数据应用学教授李庆全指出:“最近在社交网络服务(SNS)上流传的深度伪造视频,对创作者而言可能只是玩笑,但在选举季影响到用户的决策,就可能成为大问题。”

在今年计划举行国会议员总选举的韩国以及全球各地选举接连举行之际,人们越来越担心含有虚假信息的“深度伪造”内容会搅乱选举。事实上,上月23日(当地时间)美国新罕布什尔州举行非正式民主党初选的前一天,就出现了伪造的美国总统乔·拜登AI语音鼓动选民放弃投票的事件;在台湾地区领导人选举中,也有多段可能对民进党不利的深度伪造视频扩散并引发争议。首尔大学AI研究院院长张炳卓指出:“深度伪造等一旦被用于政治,舆论可能因此改变,这显然是个问题。”

今年举行总选举的韩国,预计滥用深度伪造等AI技术的网络攻击也将加剧。National Intelligence Service第三次长白钟旭在上月的座谈会上强调:“今年是包括韩国总选举在内、全球半数以上人口参与投票的‘超级选举年’”,“正是亟需对网络攻击做好彻底防范的时刻。”

在韩国,利用深度伪造等技术开展竞选活动自上月29日起已被禁止。中央选举管理委员会正运营由59名专职监测人员和3名AI专家等组成的鉴别小组。一旦发现利用深度伪造视频等进行竞选活动的可疑案例,将经过视觉检测、使用通用程序、AI咨询委员三个阶段来判定是否违法。同时通过与门户网站及AI平台等合作,先行删除涉嫌违法的内容,若不配合删除要求还将处以罚款。

不过,在候选人预计超过1000人的情况下,有人指出鉴别小组规模不足。对此,专家强调必须强制为AI制作的内容加注水印。在美国,拜登总统已于去年10月签署行政命令,其中包含为AI生成内容加注水印等内容。

此外,也有主张认为需要综合性对策,例如支持提升用户批判性评估AI技术的能力,即“AI素养”。高丽大学技术经营专门大学院教授李成烨表示:“有必要对AI生成物进行标示,建立让用户产生怀疑的机制”,“用户也需要具备质疑的素养,平台亦须加强自身监测。”首尔女子大学正确AI研究中心主任金明株也表示:“选举管理委员会有必要面向选民开展教育,使其能够辨别选举相关信息的真假”,“系统性地建立针对AI深度伪造视频等假新闻的举报体系也很重要。”

阅读韩文原文