在韩国国内深度伪造(deep fake,非法合成物制作)性犯罪物成为严重问题之际,日本利用深度伪造实施的诈骗案件数量正急剧增加。
《日本经济新闻》29日引用英国数字身份验证安全企业“Sumsub”的深度伪造报告称:“去年在日本确认的深度伪造诈骗案件数量较前一年激增28倍(2800%)。”从Sumsub发布的《2023冒充报告》来看,亚太地区去年深度伪造诈骗较上年同期共增加1530%。越南占一年间亚太地区发生的深度伪造诈骗的25.3%,日本以23.4%位居第二。若将范围从亚太地区扩大至全球224个调查对象国家,日本在深度伪造诈骗增长率上排在菲律宾(4500%)、越南(3050%)、加拿大(3000%)、比利时(2950%)之后,位列第五。
深度伪造主要指利用生成式AI技术制作的虚假视频、图像或音频。由于其形态与特定人物几乎相同,且技术日益精细,滥用此类技术的诈骗呈增加趋势。在日本,冒充名人劝诱投资的深度伪造帖文尤其成为问题。去年11月,一档真实存在的著名新闻节目视频被篡改为劝诱注册投资网站的内容,并在社交媒体(SNS)上扩散。Sumsub报告提到“日本在娱乐领域广泛使用相关技术”,并担忧“这可能导致诈骗者将该技术滥用于其他领域”。《日本经济新闻》评价称:“日语在世界主要语言中属于复杂且困难的一类,因此此前一直被认为诈骗成功率低于英语圈”,“但生成式AI能够制作较为自然的日语语音或视频,对犯罪组织而言‘日语’这一语言壁垒正在消失。”据悉,最近还出现越来越多以照片为基础制作与本人相似的图像或视频、试图通过金融服务人脸认证的行为。
随着形势日趋严重,日本也在加快制定针对滥用深度伪造内容的应对措施。国立信息学研究所去年开始提供可调查特定视频或图像中的人脸是否由深度伪造生成的程序。此后,对本人认证要求较高的金融机构等正推动引入该程序。该程序还计划年内追加识别语音深度伪造的功能。研究所的山岸顺一教授表示:“最近以冒充亲属的合成语音拨打诈骗电话的手法也加剧了担忧”,“今后需要构建即使在普通级别的(手机)终端上也能判别是否为深度伪造的机制。”






