近期,在柬埔寨参与诈骗(scam)犯罪等的韩国籍组织成员被强制遣返回国。其中还包括利用伪装成虚构人物的“深度伪造”技术欺骗受害者并骗取钱财的夫妻诈骗团伙。随着人工智能(AI)的发展,诈骗犯罪也在不断演化,有观点指出应加强对深度伪造犯罪的制度性与技术性应对。
跨国犯罪特别应对工作组(TF)23日通过包机强制遣返了73名以柬埔寨为据点实施诈骗、绑架抢劫等犯罪的韩国人。这是韩国犯罪者从海外集体遣返的第四起案例,按单一国家计算为历史最大规模。
被强制遣返的嫌疑人涉嫌从869名韩国人处骗取约486亿韩元。经调查,其中70人参与了恋爱诈骗或投资“领投群”运营等诈骗犯罪,3人参与了绑架抢劫和赌博等。Korean National Police Agency国家搜查本部已于24日对全部73人申请逮捕令。
特别是遣返人员中还包括向104人骗取约120亿韩元的恋爱诈骗夫妻团伙。他们收集社交网络服务(SNS)上普通人的照片,用深度伪造技术制造出一个虚构的34岁女性人物,甚至细致设定了血型、父母职业、家庭环境、学历等,手法极为周密。
他们通过聊天应用接近受害者,每天联络往来以建立信任。随后以“一起学习投资吧”为由诱导对方汇出虚拟货币和股票投资款,一旦受害者提出要取回收益便立即销声匿迹。调查还发现,他们为躲避侦查机关追踪,曾通过整容手术改变外貌等,使用了各种离奇的逃亡策略。
在此过程中,高度化的深度伪造技术成为作案的核心工具。他们不仅使用照片,还动用视频通话,彻底消除受害者的怀疑余地。分析认为,随着AI技术发展,巧妙攻入对方心理的诈骗犯罪正进一步演化。
去年曾发生受害者被冒充演员李政宰的恋爱诈骗组织欺骗、汇出约5亿韩元的案例。据悉该组织还发送了用AI生成的李政宰照片和伪造驾驶证。2024年还曾发生向居住在海外的父母发送女儿被关在房间内求救的深度伪造假视频、企图骗取钱财的事件。最近,让AI学习特定人物声音的“深度伪声”技术被滥用于电话诈骗犯罪的案例也接连出现。
对此,政府制定了《AI基本法》,强制要求标示以便明确识别深度伪造生成物。不过,规制对象仅限于开发AI或利用AI的经营者。专家建议,鉴于深度伪造被用于犯罪的可能性很大,应同时要求流通此类内容的平台等承担维持AI生成物标示的责任,并禁止用户擅自移除或损毁标示的行为。此外,还有人提出在深度伪造内容生成阶段就自动嵌入可追踪水印、从技术层面强化事前识别的替代方案。






