Korean National Police Agency国家搜查本部(国搜本)已开发出“深度伪造(Deepfake)检测软件”,并计划正式用于相关犯罪的查处。
据警方5日消息,新开发的检测软件在系统中上传疑似使用了换脸(Face Swap,即在视频等中识别并替换人脸的AI深度学习技术)等深度伪造技术的视频后,通常可在5至10分钟内完成分析并判别真伪。同时,在判别完成的同时立即生成结果报告书,以便直接用于警方侦查。深度伪造(Deep learning+Fake)指的是以将已有视频叠加到其他视频上的AI技术为基础的图像合成技术。
此前已有的深度伪造检测模型大多为海外制作,数据以西方人为主。因此,对以韩国人为对象合成的视频,存在检测率偏低的问题。
新开发的软件基于韩国人数据100万份、亚洲人种数据13万份等与韩国人相关的5400名人物的520万份数据进行了多样化学习。此外,还应用了最新AI模型,以便在发现并非既有学习数据的新形态合成视频时也能应对。
不过,该软件的真伪检测率约为80%,考虑到检测率并非100%,警方计划将其作为确定侦查方向的资料而非证据材料使用。
警方还表示,由于与深度伪造相关的新技术不断被开发和传播,对于深度伪造视频类选举犯罪,将接受由学界、企业等AI专家组成的民间咨询委员的交叉验证,以最大限度降低软件误判的可能性。
国搜本相关人士表示:“在怀疑是否使用了深度伪造时,可通过快速分析和结果确认积极开展侦查”,并称“今后将对软件进行升级以实现更准确的检测,除选举犯罪、合成性剥削物犯罪之外,也将主动应对利用深度伪造的各类犯罪”。
另一方面,在第22届国会选举前,自今年1月起施行的修订版《公职选举法》规定,从选举日前90天起至选举日,全面禁止利用深度伪造开展竞选活动。对此,警方也已表明严正应对的方针,包括由具备专业侦查能力的市道警察厅网络侦查队直接侦办深度伪造选举犯罪等。






