成为"深度伪造(基于人工智能的图像合成)"性剥削内容传播温床的通讯软件Telegram,仅上个月韩国国内用户就增加31万人,创下历史最大增幅。其中三分之一即10万人为10多岁及以下人群,亟需制定防止受害等对策。
据应用分析服务Mobile Index 5日数据,上月Telegram月活跃用户(MAU)为347万1421人,较前月增加31万1130人。该MAU增幅为2021年3月开始统计以来的历史最大规模。
按年龄段看,10多岁人群MAU从7月的41万1754人激增至8月的51万1734人,增加9万9980人,占总增幅的32.1%。这是50多岁人群增幅(2万8420人)的3.5倍,超过60岁以上(4290人)的23倍。推测原因是,将特定人物面部等合成进视频的深度伪造争议扩散,出于好奇心接入Telegram的10多岁人群激增。
韩国国内深度伪造性剥削案件中,加害者与受害者的10多岁比重均较大。据Korean National Police Agency统计,在集中打击深度伪造淫秽内容的上月26日至30日四天里,共受理犯罪举报118件,已确定的33名嫌疑人中有31人、被抓获的7人中有6人为10多岁。
另据女性家族部下属韩国女性人权振兴院数据,今年1月1日至8月25日,向数字性犯罪受害者支援中心申请深度伪造受害支援的781人中,36.9%(288人)为10多岁及以下。
对此,中央大学虚拟融合大学院长魏正贤对韩联社表示:"(Telegram的MAU中)10多岁未成年人大幅增加令人担忧","这可以看作是一种'噪音营销'效果,但可能产生深度伪造受害者增多的负面效果。"他还强调:"像Telegram这样的全球社交网络服务(SNS),在韩国国内难以通过当局协助请求等措施加以应对","在推进制度改善的同时,让青少年自身认识到深度伪造严重性的教育十分重要。"






