2026-05-20 | 황동건 기자

“夸大广告·拒绝退款”……让受害者二次落泪的小型深度伪造企业

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

近期遭受数字性犯罪侵害的A某,找到了在门户网站广告顶部露出的民间应对企业B公司。当时急需阻断扩散的他汇出数百万韩元并在线签订了合同,但很快陷入不安。因为网站上的使用评价视频构成和说话方式过于相似,令人怀疑是利用生成式人工智能(AI)伪造的。A某在签约一小时后要求退款,但该公司以“已启动处理措施,无法取消”为由拒绝。此后对A某要求追加处理的联系也不予回应,实际上已销声匿迹。

瞄准包括深度伪造在内的数字性犯罪受害者迫切心理、能力不足的企业正泛滥成灾。部分小微企业以夸大技术实力的广告吸引受害者后,以拒绝退款或断绝联系的方式,让受害者二次落泪。

综合Seoul Economic Daily 20日采访内容,近期像B公司这样毫无财务信息披露资料的小微企业,收取数百万韩元预付款后失联,受害投诉接连不断。夸大不确定技术实力进行宣传的行为也十分严重。另一家民间企业C公司在网站上将裸聊诈骗防御系统宣传为“专利技术”。但经了解,相关文件并非专利注册证,而更接近于单纯的申请受理凭证。在专利信息检索服务(KIPRIS)上,这些技术也被确认处于申请阶段而非完成注册。业界一位相关人士指出:“如果把正在审查中的技术标注为已获得独有专利,消费者有可能误判其实际技术实力。”

小微企业泛滥与数字性犯罪应对领域成为新盈利市场的现象不无关系。以阻断和删除非法合成物为卖点的民间应对需求近期快速增长。原因在于开源AI模型扩散,使不具备专业技术的普通人也容易制作精细的合成物。据性平等家族部数据,去年数字性犯罪发生件数为1万7629件,一年内增加4.7%。其中包括深度伪造在内的合成、编辑物相关受害从1384件增至1616件,骤增16.8%。

服务器设在海外的社交网络服务(SNS)正成为非法合成物的核心流通渠道。当天Seoul Economic Daily在X(原推特)上检索特定关键词,结果出现大量以熟人或艺人为目标开设所谓“凌辱房”的宣传帖。为规避平台监管而组合使用“留存”“上供”等话题标签的情况也不少。声称可代做AI合成照片的外部网站链接或聊天室地址同样被公开分享。另一位业界相关人士解释:“随着非法合成物制作和流通日常化,声称可以阻止这些行为的私人救济市场从约两年前开始急剧扩大。”

受害者被推向私人市场的背后,还有相关机构追不上犯罪演变速度的现实。政府推出了启动“跨国犯罪应对工作小组(TF)”和引入非法影像追踪系统等对策,但现场仍普遍认为力不从心。据Korean National Police Agency数据,年度网络犯罪发生件数从2020年的23万4098件增至2024年的31万4519件,近5年增加34.4%。相反,同期发生案件的破案率从67.5%降至54.1%,下降13.4个百分点。

专家建议,与当局打击不良企业违规经营同样重要的是,用户自身要甄别可信渠道。典型方法是确认其是否持有可防止敏感信息二次泄露的国际标准化组织(ISO)等信息安全认证。仁荷大学消费者学系教授李恩熙嘱咐说:“把未经验证的技术实力宣传成独占权利的行为,有违反标示广告法之嫌”,“消费者也不应在急迫心理驱使下草率签约,而应仔细核查公认资历和安全体系”。

阅读韩文原文