2025-11-22 | 김도연 기자

“看到李政宰身份证就汇了5亿”原来是AI…深度伪造第一大目标明星是谁?

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

随着基于人工智能(AI)的深度伪造内容激增,冒充名人的诈骗受害案件接连发生,其中受害最严重的名人被认定为流行歌手泰勒·斯威夫特。

21日(当地时间),网络安全企业迈克菲(McAfee)表示,对全球盗用名人面部和声音的深度伪造冒充案例进行分析后发现,斯威夫特的受害规模位居第一。

斯威夫特影响力强大,其世界巡演所到地区经济都会被带动,甚至产生了“泰勒经济学(Taylornomics)”这一新词。她无需一言,仅穿上某款T恤就能汇集230万美元(约33.8亿韩元)捐款,影响力之大使得利用其形象制作的虚假广告、投资诈骗和虚假宣传物最多。

深度伪造受害第二位是票房累计收入达150亿美元(约22万亿韩元)的演员斯嘉丽·约翰逊。随后是因奈飞《星期三》受到关注的珍娜·奥尔特加(第3位)、曾引发牛仔裤广告争议的西德尼·斯威尼(第4位)、流行歌手萨布丽娜·卡彭特(第5位)和演员汤姆·克鲁斯(第6位)。

仅就美国国内受害案例来看,NBA球星勒布朗·詹姆斯、民主党众议员亚历山德里娅·奥卡西奥-科尔特斯(AOC)也位列前茅。特别是奥卡西奥-科尔特斯议员今年5月还再次提出法案,使性相关深度伪造视频的受害者可以对制作者和传播者提起民事诉讼。

美国媒体《国会山报》(The Hill)警告称:“随着AI技术的发展,诈骗犯精细复制名人的形象和声音接近粉丝的案例激增”,“利用这种手段窃取个人信息或金融信息的犯罪正在迅速增加。”

另一方面,韩国国内滥用深度伪造的诈骗犯罪也在增加。近期发生了恋爱诈骗团伙冒充演员李政宰、从一名50多岁女性手中骗取5亿韩元的案件。犯罪组织在以“亲爱的”“蜜”等称呼营造恋人关系的传统恋爱诈骗手法之上,还动用AI制作的假自拍和伪造身份证,强化了骗术。

去年7月还发生过一名韩国人因冒充特斯拉首席执行官(CEO)埃隆·马斯克的恋爱诈骗而损失7000万韩元的案件。受害者甚至与冒充者进行了视频通话,视频中人物的面貌与马斯克极为相似,声音也与真实声音几乎完全一致,令其难以不上当。专家分析认为,该视频和声音均由AI生成。

阅读韩文原文