随着一段疑似宣传特定投资平台的李在明总统人工智能(AI)合成视频在网上扩散,警方已着手内部调查。
14日,京畿南部警察厅网络调查科表示,已对冒充AI投资平台的诈骗网站“EquiloomPRO”(简称Equiloom)着手内部调查。据悉,该网站以“每月可实现稳定收益”为噱头,在社交网络服务(SNS)上发布由AI制作的新闻视频和采访,迷惑投资者。
涉事视频中,出现一名看似韩国广播公司主播的人物,将Equiloom介绍为“政府认证的投资渠道”。随后还有合成李在明总统面容的人物出现,称其为“改变人生的机会”,并称“每月投资30万韩元可赚取2400万至3000万韩元”。
盗用总统面容和声音的“AI假新闻”出现尚属首次,警方倾向于认为存在外国犯罪组织介入的可能性。视频中的总统形象与今年4月公开的参选宣言视频相似。此外,其语调和发音与实际不同,并使用语法上别扭的表达,警方据此认为“很可能是韩语不熟练的外国人利用AI语音·视频合成技术制作的”。
Equiloom通过此类AI视频诱导信任后,要求访问官方网站的人输入姓名、电子邮件、电话号码,并要求汇入至少35万韩元以上。
警方在掌握受害规模的同时,正在追踪视频中出现的主播图像来源和服务器位置。
警方相关人士表示,“已确认2条与Equiloom相关的AI合成视频”,“目前处于立案前调查阶段,正以海外服务器和制作路径为中心核实事实关系”。






