2024-10-31 | 서정명 기자

“糟了,又被减肥广告骗了”……“AI深度伪造”诈骗广告猖獗

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

社交媒体上减肥辅助剂的夸大广告日益猖獗,令人担忧消费者受害。特别是近来还出现利用AI技术巧妙篡改服用产品前后照片的手法,预计受害范围将进一步扩大。

据韩国食品医药品安全处30日消息,近5年在社交媒体上虚假宣传减肥效果的查处件数年均达1900件。这只是被查处的件数,实际违规广告估计远多于此。

在Instagram等社交媒体上,“不运动、不控制饮食两个月减重14公斤”“10盒减掉10公斤”等广告频繁出现。这类广告大多同时刊登服用产品前后的照片,以从重度肥胖体型变为苗条身材的戏剧性变化来呈现。

问题在于,这类广告中相当多可能是虚假、夸大的。多数产品并非健康功能食品而是一般食品,却让消费者误以为可短期减重。尤其有人担忧,随着社交媒体网红在年轻群体中的影响力增强,被此类虚假广告迷惑的消费者不断增加。

特别是近来利用深度伪造技术,把脸部合成到肥胖体型上或巧妙篡改身材等滥用AI技术的案例增多。实际上,某深度伪造检测解决方案企业的分析结果显示,社交媒体上的减肥食品广告视频有57.27%的概率被篡改。

食品药品安全处表示,“对未证实减少体脂肪效果的产品进行AI篡改广告,属于违反《标示广告法》”,并称正在加强常态监测。但有指出,鉴于社交媒体的特性,账号可无限注册,查处存在局限。

食药处相关人士解释:“社交媒体大多把服务器设在海外,且属网络空间,查处确有困难”,“一旦发现违法广告,我们会请求放送通信审议委员会予以屏蔽,与相关机构协作应对”。

首尔女子大学教授金明株指出:“为防止消费者受害,需要制定法案,强制要求对AI制作的内容标明系由AI制作。”

阅读韩文原文