近期出现滥用深度伪造技术制作视频、以“绑架了你的子女”为由向父母敲诈钱财的案件。
7日,Korean National Police Agency国家搜查本部表示:“近期发生了利用深度伪造技术合成子女面部的虚假视频并发送给父母,以‘绑架了你的子女’为由索要钱财、针对外国人的电话金融诈骗案件。”
据警方介绍,今年10月前后,一对居住在国外的外国夫妇收到不明外国犯罪组织发来的视频,视频中正在韩国旅行的女儿被关在房间内哭着求救。犯罪嫌疑人威胁父母称:“我们绑架了你女儿,想救她就把和解金打过来。”
这对父母将情况告知了领事馆,领事馆随后向韩国警方报案。经警方核实,视频中女儿的形象是用深度伪造技术制作的虚假影像,女儿人身安全无恙。
此外,警方表示,可伪造声音的深度伪声技术同样需要警惕。犯罪嫌疑人可能复制子女的声音后致电父母,装作被绑架般哭泣求救,或以有急事为由让父母借钱,以此实施犯罪。
警方提醒,平时应避免在社交网络服务(SNS)等平台以不特定多数人可查看的公开设置上传可能被深度伪造和深度伪声滥用的照片、视频及声音。
Korean National Police Agency毒品组织犯罪搜查科科长表示:“人工智能(AI)技术的发展让日常生活更加便利,但同时也可能为技术被用于犯罪提供环境,因此必须时刻小心”,“警方为预防滥用AI技术的钓鱼犯罪,将制作宣传内容,不仅在国内传播,还将通过驻外官员和韩人会进行传播,努力保护国民。”






