2025-04-16 | 장형임 기자,박민주 기자

李在明、韩东勋也成深度伪造受害者?……AI初创企业迎来“大选特需”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

随着提前大选临近,针对政界人士的深度伪造虚假视频激增,深度伪造鉴别技术作为在选举季舆论战中取胜的新武器受到关注。深度伪造视频制作容易,但一旦扩散便难以辨别真伪,且对选举影响巨大,因此也有评价认为,掌握相关技术的少数人工智能(AI)初创企业迎来了“大选特需”。

综合Seoul Economic Daily16日的采访,近期掌握深度伪造检测技术的初创企业正积极研究,在大选前若接到政界人士深度伪造内容鉴别委托将如何应对。数字犯罪应对专业企业Lava Wave此前主要处理裸聊敲诈、报复性色情等数字性犯罪,但预计选举季政界人士深度伪造视频将大幅增加,已着手提前准备。Lava Wave一位相关人士表示:“我们正主动与国会议员及主要大选参选人接触”,“公司正持续升级基于AI的视频检测解决方案‘Lava Scanner’。只需输入一张政界人士的面部照片,就能找出所有相似视频和图像并加以判别,甚至可以进行删除申请。”

另一家基于AI的初创企业DeepBrain AI也在选举季前于内部推进类似讨论。DeepBrain AI相关人士表示:“过去在深度伪造犯罪事件引发巨大争议时,我们曾向企业、政府机关、教育机构提供本公司的鉴别解决方案”,“正在考虑若选举季再度出现大量验证咨询该如何应对。”

深度伪造技术被滥用的案例此前大多为数字性犯罪,但近期紧急戒严、弹劾、大选等重大事件接连发生,针对政界人士的侮辱罪及违反公职选举法案例也急剧增加。加之以ChatGPT热潮为契机,AI图像技术趋于大众化,抖音(TikTok)和Instagram等社交网络服务(SNS)及网络社区上,政界人士深度伪造视频的浏览量已达数百万次并广泛传播。特别是前总统尹锡悦夫妇、前共同民主党代表李在明、前国民力量代表韩东勋等被认定为主要伪造对象。李前代表的竞选团队当天表示,将于16日就制作和传播深度伪造视频的视频博主向首尔警察厅提出告发。

因此有观点指出,要使6月3日大选公正举行,关键在于尽快发现与政界人士相关的深度伪造内容,辨明真伪并予以制裁。警方也有望正式启用去年自主开发的深度伪造检测程序。Korean National Police Agency相关人士当天表示:“该程序开发后实际上仅用于数字性犯罪”,“自去年3月分析讽刺尹前总统的拼接视频后,再无与政界人士相关的委托,但今后如有需要,随时可以使用。”

另一方面,本次提前大选是《关于AI发展及构建信任基础等的基本法》明年1月施行前举行的最后一次全国性选举。今后若深度伪造内容的透明性保障及水印标示义务被法制化,预计辨别此类内容的技术需求将进一步扩大。当天一位初创企业相关人士预测:“如果法律实施,向公营企业、侦查机关供应检测程序的案例也会增加。”

阅读韩文原文