在移动通讯软件“电报(Telegram)”上盛行的“深度伪造(基于人工智能的图像合成)”淫秽影像制作、传播犯罪引发的恐慌正在扩散,而近期在运营者被抓获的首尔大学、仁荷大学等高校,以及初高中和军队中,也相继发现了同类聊天室。
近来在社交网络服务(SNS)上,有关涉嫌将淫秽内容合成到女性面部、制作并传播虚假影像的电报群聊的举报帖大量涌现,风波不断扩大。据悉受害者中不仅有大学生,还包括未成年人以及教师、女军人等,仅在网上流传的“受害地区及学校名单”中就确认有100多处。此外,按全国各地区细分建立的聊天室数量众多,每个聊天室据称有数千人参与。
这些人以所谓“共同熟人房”为名,参与者互相分享彼此都认识的特定女性的信息,并制作、传播深度伪造影像进行性骚扰。实际上,在支持电报聊天室搜索的网站“Telemetrio”上搜索“共同熟人房”,截至当日检索到有3500多人订阅的“各高校共同熟人房”。此外还发现了1800多人订阅的“大学共同熟人房”等类似电报频道。
尤其确认有参与人数多达22万人的电报频道也在盛行。据悉该频道内置了非法合成物制作程序,仅凭一张女性照片即可制作淫秽内容。据称施害者主要擅自保存Instagram等社交平台上受害者的照片,用于作案。
还有以女军人为对象制作、传播深度伪造影像的聊天室。名为“军需品仓库等候房”的该聊天室参与人数超过900人,据称大多为现役军人。“军需品”指用于军事目的的武器和粮食等,聊天室参与者用该词称呼女军人加以贬损。
要加入该房间,须满足四个条件之一:△向运营者提交特定女军人的军装照片和电话号码、所属单位、军衔及年龄等个人信息;△通过电报秘密对话验证其为现役军人;△合成“匠人”;△向管理员指定的女军人发送侮辱信息并将其反应提交给运营者。近期因仁荷大学事件争议扩大,他们还发布追加公告称“暂时只接收完成第3、第4项任务的人”。
随着深度伪造淫秽内容在全国范围内制作、传播的疑云扩散,女性的不安也在蔓延。有人向女性分享建议,将含有自己照片的社交账号设为不公开并删除照片。京畿道一所高中学生会的社交账号上曾发布帖文称“目前有人通过电报传播(本校)学生的个人信息及深度伪造合成照片”,“请撤下在社交平台上发布的个人照片以预防受害”。
另一方面,首尔警察厅当日也强调,青少年制作、传播深度伪造淫秽内容的犯罪适用“触法少年”规定。据Korean National Police Agency统计,今年仅在首尔就有10名青少年因基于电报的深度伪造淫秽内容制作、传播案件被立案。
首尔警察厅相关人士表示:“截至7月底,共受理中小学及高中电报性剥削举报10起,相关立案14岁以上青少年10人”,“该类犯罪同样适用触法少年规定,将与市教育厅等一起整理案例、处罚条款,进驻各学校开展预防教育”。
对此,首尔警察厅厅长金奉植强调:“不仅是学生,连针对教师的内容也被制作并传播,并以熟悉信息技术(IT)设备的青少年为中心扩散,令人十分担忧”,“这是严重的犯罪行为,可能受到处罚,且此类犯罪记录会成为今后社会生活的重大障碍,我们计划与市教育厅协商后对学生进行教育”。
但也有人指出,电报不仅将服务器设在国外,还以高度的安全性与匿名性为特征,因此侦查存在局限。因为即便侦查机关接到举报后启动调查,上传到频道的影像和活动记录也可轻易删除。正因如此,有人担忧电报正成为有害内容的新温床。
在此背景下,电报创始人兼首席执行官(CEO)帕维尔·杜罗夫于24日(当地时间)在法国被突然逮捕一事备受关注。据悉,杜罗夫被指未采取措施防止电报被滥用于犯罪。






