2024-08-28 | 장형임 기자,정다은 기자

不止“Telegram”,Ask与Instagram也盛行…深度伪造受害者半数为初中生

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“要把熟人做成合成图,必须提供Instagram、年龄和照片。”

“那个X在匿名提问平台上,只要把露骨程度控制好就会回复,想试的人可以去看看。”

在通信软件“Telegram”被指为深度伪造色情内容等“侮辱熟人”犯罪温床而饱受质疑之际,数字性犯罪正向其他社交网络服务(SNS)平台扩散。加害者们正从Telegram上被共享的受害者其他SNS账号涌入,但由于大多基于境外服务器,侦查机关追踪困难重重。尤其令人担忧的是,SNS使用活跃的十几岁青少年在毫无防备的状态下暴露于网络性犯罪。

综合Seoul Economic Daily 28日采访内容,在Telegram上泛滥的所谓“共同熟人群”中,仍在共享受害者的姓名、学籍、Instagram账号、个人匿名提问页面地址等各类个人信息。在这些群里,除共享深度伪造合成物外,还出现了在受害者的日常照片上放置自己性器官或进行自慰并上传“认证照”的行为。加害者们在Telegram聊天室内实施各种性骚扰后,还会通过Instagram私信(DM)或匿名提问直接向受害者展示,并分享前往其他SNS账号的“远征后记”。

在此过程中,数十至数百名加害者涌向未成年人的匿名提问账号,发送性器官照片等实施露骨程度极高的性骚扰的情况也频频发生。记者实际确认的一名十几岁女生的匿名提问页面上,登记有数百条骚扰性提问,如“长着一副XX的脸,想看XX”“看着你的照片自慰了”等。在Telegram上,加害者们一边说“只要把露骨程度控制好,(受害者)还会回复”一边共享SNS地址,而该受害者却在毫不知情的情况下暴露于网络性暴力。

经过简单注册即可匿名提问与回答的SNS匿名提问平台,此前就因同学之间匿名辱骂等被指为“网络校园暴力”的法外之地。而如今与Telegram深度伪造犯罪连锁结合,犯罪程度进一步升级。然而运营商“Mobionz Media”仅在官网标明实施自有的青少年保护政策,实际上对有害内容的应对处于放任状态。采访组当天多次尝试与运营商电话联系,但最终未能成功。

利用具有代表性的SNSInstagram实施的未成年人网络性犯罪更为活跃。青少年暴力预防财团“蓝树财团”的一位相关人士表示:“也有制作十几岁受害者的裸体合成物并通过DM发送,或建立冒充受害者的公开账号并上传数十张裸照的案例。”他还惋惜地说:“这种情况下,不了解‘深度伪造’的家长反而被骗而责骂受害者”,“对孩子来说是天崩地裂般的心理冲击”。

据教育部通过17个市道教育厅掌握的情况,今年1月至前一日统计的学生、教员深度伪造受害件数共196件(学生186件、教员10件),其中初中受害最多,达100件。高中为78件,小学为8件。

有意见指出,为保护未成年人免受新型数字性犯罪侵害,除政府加强监管与处罚外,SNS平台企业也须迅速应对。

对此,广播通信审议委员会当天表示,将与Telegram以及Facebook、X(原Twitter)、Instagram、YouTube等全球在线平台运营商组建协议体,强力要求其迅速删除、屏蔽影像并实行自律规制。教育部也决定针对学生、教员受害情况组建“学校深度伪造应对紧急工作组(暂称)”。该工作组将每周一次调查学校深度伪造事件,并与Korean National Police Agency、女性家族部、Korea Communications Commission等相关机构建立协同与合作体系。首尔警察厅也将从当天起在网络侦查科运行为期7个月的“虚假影像物集中应对工作组”。

另外,当天,国民力量党议员徐志英(釜山东莱区)等11人提出了载有设立数字性犯罪受害者支援中心法律依据的“SEXUAL VIOLENCE PREVENTION AND VICTIMS PROTECTION ACT部分修正案”。数字性犯罪受害者支援中心自2018年设立以来一直开展数字性犯罪影像删除支援工作。但由于在法律上未获得明确权限,非法网站方面不响应该中心删除请求的情况时有发生,要求修法的呼声持续不断。

阅读韩文原文