中国犯罪团伙利用AI深度伪造技术制作虚假的女儿被绑架视频,借此恐吓其父母的案件发生。经确认,这名中国籍受害者当时正在济州岛旅游。
据警方8日消息,济州西部警察署上月末接到中国公安要求搜寻一名20多岁中国籍女性A某的请求。当时中国公安请求协助称,“接到A某父母报案,怀疑女儿被绑架”,“据说A某去济州岛旅游,请帮忙寻找”。
警方当日上午10时左右接到该消息后立即派出10多名刑警,于下午9时左右找到了正在旅游的A某。
调查结果显示,犯罪团伙利用A某的照片和声音,以AI深度伪造技术制作了绑架视频。在这段19秒的视频中,被伪造成A某的人物全身被胶带和绳子捆绑,高喊“妈妈、爸爸”并哀求救命。视频逼真度很高,中国公安和韩国警方起初都误以为是真实视频。
警方相关人士表示,“分析结果判断深度伪造的可能性很高”,“本案表明AI技术可能被滥用于严重犯罪”。
近期随着AI技术发展,精细复现声音和面容成为可能,犯罪手法也在不断演变。北欧和英美地区近来利用AI技术的“杀猪盘式恋爱诈骗”犯罪激增,随着翻译技术发展,还有向非英语圈扩散的趋势。
警方提醒,仅凭社交媒体上公开的照片和短暂的语音就能制作精细的虚假视频,须予以注意。Korean National Police Agency国家调查本部相关人士强调,“借助深度伪造犯罪视频,诈骗手法更加高端化”,“市民需格外注意”。






