警方今年以来7个月间抓获深度伪造(虚假影像物)犯罪嫌疑人400余名。为应对利用人工智能(AI)的深度伪造犯罪,警方计划启动结合检测软件、专业影像分析与AI取证技术的“三重应对体系”,全力应对犯罪。
据Korean National Police Agency国家搜查本部13日消息,警方今年1至7月抓获虚假影像物犯罪嫌疑人419名,其中17人被拘留。为应对不断进化的深度伪造犯罪,警方已构建并运行三阶段应对体系:△深度伪造检测软件判别△科学搜查影像分析官判读△AI作案工具分析。
实际上,今年3月Korean National Police Agency网络犯罪举报系统接连收到举报,称有人将自己的照片合成的性相关虚假影像物发布在海外成人网站。警方在获取4个市道警察厅受理案件的证据后,要求发布网站删除作案账号和帖子。
此后利用深度伪造检测软件分析流传影像,结果确认这些影像具有相同特征。警方据此侧重于同一人制作影像的可能性展开集中调查,抓获一名20多岁男性嫌疑人并拘留移送。
AI取证技术也被用于侦查。警方在将通过社交媒体制作、销售性剥削虚假影像物的20多岁男性拘留移送后,在调查委托制作者的过程中发现了与既有影像模式不同的虚假影像物。在用检测软件进行初次判别之后,又运用AI数字取证技术,进一步获取了用于制作影像的生成式AI程序以及编辑前的原始照片。警方据此正在调查委托者的制作嫌疑。
警方使用的深度伪造检测软件通过综合分析是否存在人脸生成与替换、眨眼与血流变化等生物学特征以及文件元数据结构等,判别是否为合成。该软件还搭载了专门针对韩国国内虚假影像物检测的AI模型。开发以来至今共用于1636起案件侦查,今年以来在选举犯罪等其他侦查领域也使用了72次。
仅凭软件难以明确判断是否经过篡改的影像,由科学搜查影像分析官进行追加分析。即由专业分析官利用另外的影像分析程序,验证是否存在伪造、变造。
在数字取证阶段,警方运用自主开发的“AI取证技术”。市道警察厅专业分析官从嫌疑人使用何种程序篡改影像,到影像的哪一部分被更改,对制作与传播过程进行技术性重构。警方将其用作确认追加犯罪行为和证明作案故意的证据。
警方今后计划将深度伪造检测技术从数字性犯罪扩大至虚假信息传播和电信金融欺诈等滥用AI的各类犯罪。
Korean National Police Agency国家搜查本部强调:“我们正以超过技术进化速度的速度发展警方的应对技术”,“将通过相关系统高级化和集中整治,以零容忍原则强力应对虚假影像物犯罪”。






