利用深度伪造技术将熟人的照片合成到淫秽内容中的“深度伪造性犯罪”在全国各地的初高中相继发生,消息传出后,市民社会陷入不安。随着受害学校名单等被发布到网络社区,以各地妈妈论坛为中心,在社交媒体上删除子女照片的动向正被察觉。
据警方等27日消息,首尔警察厅网络调查队近期已对一个将淫秽视频或照片合成到女性面部、并以传播为目的建立的Telegram频道启动立案前调查(内查)。首尔警察厅当天面向首尔1374所小学、初中、高中的学生、教师及家长共78万人发布了紧急校园警报。此前,首尔警察厅在今年7月底之前已抓获涉嫌性剥削、侮辱熟人的14岁以上青少年(不适用触法少年)10人。
近期发现大量为制作和传播深度伪造淫秽内容而建立的Telegram聊天室,据称聊天室接入人数达数十万人以上。相关Telegram聊天室按各地区和学校进行了细分。聊天室参与者在共享彼此都认识的女性,即所谓“重叠熟人”的照片后,利用深度伪造技术制作淫秽内容并加以传播,实施性骚扰。
据悉,他们擅自利用Facebook、Instagram等社交媒体以及KakaoTalk头像照片实施犯罪。部分施害者还利用了贴在自助照相馆的照片和毕业照。
当天,网络社区和论坛上出现了深度伪造影像受害者所属地区和学校名单等,地方市民社会更加不安。截至目前尚未查明该名单的真伪,但名单正在迅速扩散。
在妈妈论坛等地方社区,出现了“把发布在社交媒体上的照片撤下来”之类的建议。一位网民发帖称:“有女儿的母亲们尽量不要把露出孩子面部的照片发布到社交媒体上”,“最好也劝子女不要使用社交媒体”。
另一位网民表示:“听说熟人的女儿受害了。大家都要注意”,“因担心成为性犯罪的目标而连个人社交媒体活动都不能安心进行,这样的现实令人痛心”。
随着问题趋于严重,各地教育厅也在采取应对措施,包括向各学校发送预防教育公函。部分学校的学生会也出于保护学生的考虑,建议删除社交媒体等上的个人照片。韩国女性人权振兴院的数字性犯罪受害者支援中心和女性紧急电话1366也在受理受害案例。
由于深度伪造受害案例逐年增加,警方也在积极应对。27日,Korean National Police Agency表示,将于28日至明年3月31日开展“深度伪造性犯罪相关特别集中整治”。
虚假影像物等犯罪2021年为156起,2022年增至160起,2023年增至180起,仅今年上半年就查获297起。
尤其是10多岁青少年作案呈加速增长趋势。2021年10多岁嫌疑人占全部嫌疑人的比例为65.4%,去年则飙升至75.8%。
Korean National Police Agency相关人士表示:“深度伪造性犯罪是抹杀受害者人格的重大犯罪。我们将尽最大努力彻底根除,以消除国民的不安感”,“也请国民积极举报和提供线索”。






