随着提前举行的总统大选临近,针对政界人士的深度伪造虚假视频激增,深度伪造鉴别技术作为在选举季舆论战中取胜的新武器备受关注。深度伪造视频容易制作,但一旦传播开来便难以辨别真伪,且对选举的影响巨大,因此也有评价认为,掌握相关技术的少数人工智能(AI)初创企业迎来了“大选特需”。
综合Seoul Economic Daily 15日的采访内容,近期掌握深度伪造检测技术的初创企业正积极研究,一旦大选前有人委托鉴别政界人士的深度伪造内容该如何应对。专门应对数字犯罪的企业Lavawave此前重点处理裸聊敲诈、报复性色情等数字性犯罪,但预计选举季政界人士的深度伪造视频将大幅增加,已着手提前准备。Lavawave一位相关人士表示:“我们正先行与国会议员及主要总统候选人接触”,并说明称:“公司基于AI的视频检测解决方案‘Lavascanner’正在持续升级。只需输入一张政界人士的面部照片,就能找出所有相似视频和图像并进行鉴别,甚至可以进一步提出删除请求。”
另一家AI初创企业DeepBrain AI也在选举季前进行内部类似讨论。DeepBrain AI相关人士表示:“过去在深度伪造犯罪事件引发巨大争议时,我们曾向企业、政府机关、教育机构等提供本公司的鉴别解决方案”,“正在考虑选举季若再有大量验证咨询该如何应对”。
此前深度伪造技术被滥用的案例大多为数字性犯罪,但近来紧急戒严、弹劾、大选等重大事件接连发生,针对政界人士的侮辱罪及违反公职选举法案例也急剧增加。加之以ChatGPT热潮为契机,AI图像技术趋于大众化,在TikTok和Instagram等社交网络服务(SNS)及网络社区,政界人士的深度伪造视频已录得数百万次浏览量并广泛传播。尤其是前总统尹锡悦夫妇、共同民主党前党首李在明、国民力量前党首韩东勋等被认定为主要伪造对象。李前党首竞选团队当天表示,将于16日向首尔警察厅举报制作、传播深度伪造视频的油管博主。
因此有人指出,要使6月3日大选公正举行,关键在于尽快发现与政界人士有关的深度伪造内容,辨明真伪后加以制裁。警方预计也将正式启用去年自主开发的深度伪造检测程序。Korean National Police Agency相关人士当天表示:“该程序开发之后实际上只用于数字性犯罪”,“去年3月分析过一段讽刺尹前总统的剪辑拼接视频后,就再没有与政界人士相关的委托,但今后如有需要随时都可以使用”。
另一方面,此次提前大选是《关于AI发展及构建信任基础等的基本法》明年1月施行前举行的最后一次全国性选举。今后若确保深度伪造内容透明性及标注水印的义务被法制化,预计辨别此类内容的技术需求将进一步扩大。当天一位初创企业相关人士预测:“如果法律施行,向公共企业、侦查机关供应检测程序的案例也会增多。”






