KAIST 30日表示,计算机学院李兴圭教授研究团队已将基于人工神经网络的深度伪造(deepfake)检测及照片伪造篡改检测软件“KaiCatch”开发为移动应用形态,并开始提供服务。
预计需要数字内容伪造篡改检测的公共机构、产业界、新闻与广播机构、各类门户网站从业者以及普通民众都可轻松使用。
尤其是此次移动应用服务意义重大,因为它正式进入实用化阶段,使普通民众也能轻松运用数字内容伪造篡改检测技术。KAIST将含有捕捉包括深度伪造视频在内的各类伪造篡改照片之意的“KaiCatch”软件开发为移动应用形态并开始提供服务,这在国内属于此类服务的首例。在谷歌商店搜索“KaiCatch”下载应用后,即可简单进行深度伪造及图像伪造篡改分析。
主要以人的面部为对象的深度伪造技术大致可分为三类:换脸、面部再现、面部属性转换。其中换脸与面部再现若被恶意使用,可能以假新闻造成巨大社会混乱,也可能被滥用于制作淫秽物品,严重侵犯个人人权。此外,面部属性转换可能被滥用于伪造影像证据。
研究团队开发的技术为了在不受深度伪造生成类型影响的情况下检测是否为深度伪造,采用了影像微细变形信号痕迹与微细异常信号痕迹检测技术,以信号处理及人工智能技术开发而成。利用这些核心技术,通过分析面部区域的微细变形以及鼻、口、面部轮廓等可能发生面部内几何失真区域的异常信号痕迹,来检测深度伪造。
就深度伪造检测技术而言,若提供avi或mp4格式的可疑深度伪造视频,则先切分为单个帧,再将拟分析的帧转换为图像后进行深度伪造检测。除视频中面部过小(分辨率128×128以下)或视频中人脸被大幅裁切的情况外,均可正常检测。因此,只要截取视频的一帧制成图像并上传至KaiCatch应用,即可轻松确认是否为深度伪造。分析结果以0至100(%)的数值显示,数值越高,判定为深度伪造的概率越高。
照片伪造篡改检测技术同样如此,只要将相关图像上传至KaiCatch应用,即可获得伪造篡改分析结果。KaiCatch可处理包括BMP、TIF、TIFF、PNG等无压缩、无损压缩在内,以及基于50余种标准量化表和1000余种非标准化量化表的JPEG图像。上传疑似伪造篡改的图像后,会生成将该图像分析结果可视化的两张分析图像;若分析图像中包含疑似伪造篡改特征的主要区域与其他周边区域颜色差异显著,或仅在主要区域混杂出现多种颜色,普通民众也可简单判断该区域已被伪造篡改。
此次开发的移动端伪造篡改检测应用为国内首例,也是在发达国家亦难觅的伪造篡改检测应用服务技术。
李兴圭教授表示:“KaiCatch运用人工智能与微细异常信号痕迹分析手法等尖端技术开发,具备应对多种类型变形的通用性”,“即便使用我们未能预测或未知的变形手法,也能以90%左右的高可信度进行检测。”
李教授还补充说:“此次开发的是仅在基于安卓的移动环境中运行的应用服务技术,但计划在不久的将来推出基于苹果iOS的应用,同时推出英文、中文、日文版应用”,“我们还将把使用与现有检测手法差异极大的手法的伪造篡改检测技术实用化,并追加搭载到KaiCatch中运行,努力大幅减少无法检测的各类例外情形。”
/大田=朴熙润 记者 hypark@sedaily.com






