2026-05-19 | 황동건 기자

“说好删除却失联”……深度伪造受害者二次落泪

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

近期遭受数字性犯罪侵害的A先生,找到了在门户网站广告顶部露出的民间应对公司B社。当时急需阻止扩散的他汇出数百万韩元并在线签订了合同,但随即陷入不安。因为公司主页上的使用体验视频在构成和讲述方式上过于相似,令人怀疑是利用生成式人工智能(AI)进行的伪造。A先生在签约一小时后要求退款,但该公司以"已着手处理,无法取消"为由拒绝。此后,对A先生要求追加处理的联络也不予回应,实际上已销声匿迹。

瞄准深度伪造等数字性犯罪受害者迫切心理的能力不足公司正大量涌现。部分小微公司以夸大技术实力的广告吸引受害者后,又以拒绝退款或中断联络等方式,让受害者二次落泪。

综合Seoul Economic Daily 19日采访内容,近来像B社这样毫无财务信息披露资料的小微公司,先收取数百万韩元预付款后便失联,此类投诉接连出现。夸大宣传不确定技术实力的行为也相当严重。另一家民间公司C社在主页上将裸聊诈骗防御系统宣传为"专利技术"。但经了解,相关文件并非专利注册证,而更接近于单纯的专利申请受理凭证。在专利信息检索服务(KIPRIS)上也确认,相关技术处于申请阶段而非注册完成。业内一位人士指出:"若将审查中的技术标注成已获得独有专利,恐使消费者误判其实际技术实力。"

小微公司泛滥,也与数字性犯罪应对领域成为新的盈利市场不无关系。随着基于开源的AI模型扩散,没有专业技术的普通人也能轻易制作精细的合成物,由此以阻断和删除非法合成物为卖点的民间应对需求也迅速扩大。据性别平等家族部数据,去年数字性犯罪发生件数为1万7629件,一年间增长4.7%。其中包括深度伪造在内的合成、剪辑物相关受害从1384件激增至1616件,增幅达16.8%。

服务器设在海外的社交网络服务(SNS)成为非法合成物的核心流通渠道。当日Seoul Economic Daily在X(原推特)上检索特定关键词,发现以熟人或艺人为目标开设所谓"侮辱房"的招揽帖接连不断。为规避平台监管,组合使用"钉标""进贡"等话题标签的情形也不少。声称可制作AI合成照片的外部网站链接或聊天室地址同样被公开分享。另一位业内人士解释称:"随着非法合成物的制作和流通日常化,声称可以阻止这些行为的私人救助市场从约两年前起急剧扩大。"

受害者被逼向私人市场的背后,还有相关机构跟不上犯罪演变速度的现实。政府推出了启动"跨国犯罪应对工作组(TF)"和引入非法影像追踪系统等对策,但现场普遍评价仍力有不足。据Korean National Police Agency数据,年度网络犯罪发生件数从2020年的23万4098件增至2024年的31万4519件,近5年增加34.4%。而同期相对发生件数的破案率则从67.5%降至54.1%,下滑13.4个百分点。犯罪快速增加,但侦查与阻断能力未能充分跟上。

专家建议,在当局打击不良公司违规经营的同时,受害者自身也需努力辨别可信渠道。仁荷大学消费者学系教授李恩熙表示:"将未经验证的技术实力宣传为独占权利的行为,有违反标示广告法之嫌",并叮嘱"消费者也不应在急迫心理驱使下签约,而要仔细核实公认业绩与安全体系"。

阅读韩文原文