随着利用深度伪造技术将他人照片合成至淫秽内容的性犯罪蔓延,将社交网络服务(SNS)账号改为不公开的用户大幅增加。部分加害者擅自盗用受害者社交媒体上的照片并要求制作淫秽内容一事曝光后,甚至出现了“社交媒体恐惧症”现象。
据警方等30日消息,最近以地区网络社区等为中心,出现了将社交媒体账号转为不公开的动向。原因在于,为制作、传播深度伪造淫秽内容而建立的Telegram聊天室被大规模发现,同时有迹象显示受害者的Facebook、Instagram等社交媒体及KakaoTalk头像照片被利用。
在妈妈论坛等处,“把发在社交媒体上的照片撤掉”之类的建议接连出现。一名网友发帖称:“有女儿的母亲们不要把孩子露脸的照片发到社交媒体上”,“最好也劝子女不要使用社交媒体”。在据称出现受害者的学校的学生之间,也有“应将社交媒体账号转为不公开或干脆删除”的意见。
但不安感依然存在。因为据悉部分加害者还利用了贴在自拍照相馆的照片以及毕业照实施犯罪。此外,虽然部分Telegram聊天室为躲避侦查机关追踪而消失,但在残留的聊天室里反而还流传着查看已转为不公开的社交媒体账号的方法。
警方已立即展开应对。当天,首尔警察厅“深度伪造等虚假影像集中应对工作组”紧急逮捕并拘留了开设熟人侮辱聊天室、制作并传播279个虚假影像的20多岁男性A某。此外还抓获并拘留了运营2个成人网站、共传播2万638个非法性影像的30多岁男性嫌疑人B某。
政府也在加快制定对策。国务调整室当天召开跨部门对策会议,决定新设处罚持有、购买、观看深度伪造等虚假影像行为的规定。同时还研究了提高深度伪造内容制作、流通处罚标准以及扩大侦查机关伪装侦查范围的法案等。政府决定将目前各部门分别运营的举报受理渠道整合后统一告知,并将研究删除虚假影像以及在咨询、法律、医疗领域强化受害者支援的方案。政府计划在10月前制定跨部门综合对策。
政界也出现了为防止深度伪造传播而提出法案的动向。国会环境劳动委员会所属国民力量党议员禹在俊本月27日领衔提出了以预防滥用深度伪造技术的视频受害为核心的“ACT ON PROMOTION OF INFORMATION AND COMMUNICATIONS NETWORK UTILIZATION AND INFORMATION PROTECTION部分修正案”。
禹议员在说明提案背景时表示:“深度伪造影像不仅可用于性犯罪,还可能被用于诈骗等各类犯罪”,“有必要禁止违背当事人意愿制作、传播深度伪造影像”。






