2026-03-10 | 박창규 기자

“选举季假新闻别想跑”……政府在6·3地方选举首次启用“AI深度伪造检测模型”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

政府将在即将到来的6月3日地方选举中投入基于人工智能(AI)的深度伪造检测模型,阻断选举期间的假新闻。

行政安全部10日表示,计划将与国立科学调查研究院共同开发的“AI深度伪造检测模型”正式应用于第九届全国同时地方选举。

此举是由于精密合成特定人物面部和声音的选举类深度伪造犯罪急剧增加,旨在防止篡改候选人影像和发言的虚假信息扭曲选民判断。

此次引入的深度伪造检测模型的特点是,将观察影像整体动作与流向的全局分析与精细审视面部、唇部、皮肤质感等特定部位的局部分析相结合。

行政安全部解释称:“该模型的设计可应对最新生成式AI制作的内容,实际验证结果显示检测准确率约达92%。”

政府构想是利用该模型捕捉人眼难以辨别的细微失真和合成痕迹,在短时间内对是否疑为深度伪造进行初步判别。

该检测模型的基础是去年12月举行的“应对深度伪造犯罪AI检测模型竞赛”。此次竞赛共有268支队伍、1077人参加,围绕图像和视频中的面部展开区分真假的高性能检测算法开发竞争。

行政安全部与国立科学调查研究院筛选并整合竞赛中选出的5个优秀模型,发展成此次选举用检测模型,并计划在选举期间同时运营受理和分析可疑内容、将结果传达给选举管理委员会和侦查机关的快速鉴定支援体系。

政府将AI深度伪造假新闻定性为“严重威胁选举民主主义的新型数字犯罪”,表示将展开跨政府应对。行政安全部长官尹昊重表示:“利用高度技术制作的AI、深度伪造假新闻正严重威胁选举民主主义”,“将持续提升在选举过程中应对虚假和操纵信息的能力,打造有能力、受信赖的‘AI民主政府’。”

行政安全部与国立科学调查研究院计划以此次地方选举为起点,与性别平等家族部、Korea Communications Commission、Korean National Police Agency等相关部门合作,构建涵盖性剥削物、名誉损害、金融诈骗等各类深度伪造犯罪的数字犯罪应对体系。

阅读韩文原文