2024-08-31 | 장형임 기자

从艺人、未成年人到教师、军人…“深度伪造”争议扩散 [警戒线]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

过去两周震动韩国的最令人震惊的事件是“深度伪造事态”。以往以艺人、政界人士、网红等为对象制作的“深度伪造合成淫秽物”,如今被揭露主要发生在普通人、甚至初高中生等未成年人身上,连在社交平台上传个人照片都心生忌惮的“社交平台恐惧症”也在蔓延。随着社会恐慌加剧,警方以及女性家族部、教育部、国会等纷纷出台各类应对措施。下面梳理近期与深度伪造相关的侦查进展以及各方展开了哪些讨论。

━ 按初中、高中、大学划分的“深度伪造聊天室”盛行……甚至出现全国深度伪造地图

此次事态始于仁荷大学等部分学校流传将淫秽物合成到女学生面部的深度伪造影像一事浮出水面。19日,仁川警察厅网络犯罪侦查队表示,正以涉嫌违反《性暴力犯罪处罚等相关特例法》对Telegram群聊运营者A某等人进行侦查。此后发现,与该聊天室类似的Telegram聊天室按全国各地区、各学校细分大量开设,每个聊天室有数千人参与,令人震惊。

尤其据悉,已确认的受害者中不仅有大学生,还包括初高中生等未成年人,以及教师、女兵等。聊天室中不仅有人截取普通人照片后利用“机器人程序”制作、传播深度伪造淫秽物,甚至还共享直接拍摄女学生身体的校内非法拍摄影像。

与此相关,目前社交媒体X(原Twitter)上正在流传发生深度伪造受害情况的学校名单。标注该名单所列约500所学校位置的“深度伪造受害学校地图”网站访问量超过300万人次,受到极大关注。该网站也遭到加害者的网络攻击。30日,运营“深度伪造地图”的“数据栈”表示:“目前由于国内网络遭大流量DDoS攻击,网络不稳定,服务提供出现障碍”,并告知“深度伪造地图网站被上级域名机构接到举报称为垃圾网站,已被暂时封锁”。

此后28日,教育部表示,通过17个市道教育厅掌握的结果显示,今年1月至前一天,学生、教职员的深度伪造受害件数共计196件。尤其在学生受害者中,初中生比例超过一半。

全国教职员工会也于29日表示,就“深度伪造”开展紧急检查和实态调查的结果显示,“因深度伪造受到直接或间接损害的学校成员超过500人”。根据该工会对全国幼儿园、特殊学校及中小学的教师、学生、教职员等2492人进行的在线问卷调查,占20.7%的517人(教师204人、学生304人、教职员9人)回答因深度伪造受到直接或间接损害,本人确认自己的照片被制成非法合成物的“直接受害者”达29人(教师16人、学生13人)。

此后,对过去三年(2021~2023年)Korean National Police Agency资料的分析结果显示,警方已侦办的深度伪造性犯罪案件受害者共527人中,59.8%(315人)为10多岁青少年,要求保护暴露于深度伪造犯罪中的青少年的呼声不断高涨。据国会行政安全委员会所属共同民主党议员梁富男30日从Korean National Police Agency获得的资料,虚假影像物的未成年受害者从2021年的53人增至2022年的81人、2023年的181人,两年间增至3.4倍。

对此,教育部为消除学生和教职员的不安,组建了紧急工作小组(TF),并计划经下月相关部门对策会议等,于10月内制定教育领域深度伪造应对后续措施。此外,副总理兼教育部长官李周浩30日召开第42次共同茶叙会,与中小学校长会面,讨论应对深度伪造受害等教育议题。

━ 全国警方对“深度伪造犯罪”进入紧急状态……相关侦查陆续启动

警方自28日起对深度伪造性犯罪展开集中整治,全国各地相关侦查迅速推进。

首尔警察厅“深度伪造等虚假影像物集中应对TF”30日表示,已于22日紧急逮捕开设并运营Telegram“熟人侮辱室”的20多岁男性B某,并于当天以拘留状态移送检方。B某涉嫌今年5月至7月在Telegram开设“熟人侮辱室”频道,从参与者处获取熟人的面部照片及姓名、年龄等个人信息,针对至少246名受害者制作并传播279个虚假影像物。

目前首尔警察厅已受理10件以上以中小学学生和教师为受害者的深度伪造淫秽物报案,并对10名14岁以上青少年以各案件嫌疑人身份立案调查。

全南警察厅网络犯罪侦查队接到受害者报案后,正分别追查2名涉嫌合成Instagram等社交平台公开的女性照片、制作并传播深度伪造淫秽物的嫌疑人。

大邱警察厅和庆北警察厅30日也表示,今年以来至上月共发生11起深度伪造性剥削物案件,4人被不拘留移送。大邱警察厅计划在至明年3月31日的7个月间,在集中整治深度伪造(虚假影像物)性剥削物犯罪的同时运营“虚假影像物犯罪根除工作小组(TF)”。

此外,检方与警方正研究今后加强侦查人力和组织以应对深度伪造性犯罪、并扩大伪装侦查的方案。

━ “服务器在国外就抓不到?”……放送通信审议委员会请求法国当局协作

另一方面,有人指出侦查机关难以追查基于国外服务器的Telegram,因此也在推进与海外的协作。29日,放送通信审议委员会表示,已向正在侦查Telegram首席执行官(CEO)的法国当局发出有关应对Telegram深度伪造性犯罪影像物的紧急协作请求。法国侦查当局于本月24日逮捕并拘留了Telegram CEO帕维尔·杜罗夫,目前正在侦办。

该委员会表示,通过与法国侦查当局及数字性犯罪相关全球网络的合作,得以提出协作请求,并称“通过以委员长柳熙林名义的函件,紧急请求对方支持实现与Telegram的直接沟通,以及今后就Telegram问题构建常设合作关系”。

与此同时,还一并向其他海外相关机构及国际组织发出以委员长名义的函件,提议共同联手构建协议体。目前该委员会为构建Telegram相关协议体而接触的机构包括联合国教科文组织、INHOPE等国际组织,以及澳大利亚在线安全局、法国Point de Contact、台湾国家通讯传播委员会等,达30余个。

此外,还与首尔市建立了24小时热线,NAVER集团、Kakao集团等主要门户网站也一并开始与该委员会“深度伪造性犯罪影像物举报”页面对接,各类“深度伪造性犯罪影像物综合对策”已经出台。

━ 政府推进“持有、购买、观看深度伪造物即处罚”立法

政府决定新设对持有、购买、观看深度伪造等虚假影像物行为进行处罚的规定,并推动修法上调对深度伪造物制作、流通的处罚标准。30日,国务调整室表示,已在政府首尔办公楼与相关部门召开应对深度伪造性犯罪的首次跨政府对策会议,并制定了上述立法对策。当天会议还审议了为扩大伪装侦查范围而需要的《性暴力处罚特例法》等其他法案。

此外,韩国科学技术情报通信部与Korea Communications Commission决定尽快推动深度伪造检测技术的进一步商用化,以防止深度伪造影像物在网上被轻易制作、流通、扩散,并使非法影像物能够被迅速删除。

除此之外,政府计划与国会合作,使有关深度伪造虚假影像物处罚规定和受害者支援的法案能够迅速制定和修订。政府计划进一步听取专家等民间意见,在10月前制定跨政府综合对策。

━ “感受到的不是羞耻,而是愤怒与厌恶”……被“侮辱”的只有加害者本人的尊严

市民的关注和公愤也达到顶点。谴责将女性面部照片与淫秽物合成的“深度伪造”性犯罪事态、要求当局迅速制定对策的活动和示威也接连举行。

首尔女性会等女性团体和首尔地区高校人权社团29日下午在瑞草区江南站10号出口前举行记者会,高呼“政府和政界立即行动,让任何人都不敢‘侮辱’我们”。团体喊出“你们无法侮辱我们”“我们感受到的不是羞耻,而是愤怒”等口号。

另一方面,Telegram上甚至出现了扬言收集采访报道深度伪造性剥削物问题的女记者的信息和照片、制作深度伪造物的对话,韩国女记者协会因此表明立场:“绝不能容忍针对女记者的深度伪造性犯罪。”

在所谓“熟人侮辱室”中,近来进入聊天室的门槛变得极为苛刻,甚至要求提交本人熟人的照片,对卧底侦查和采访高度戒备。“一旦被发现就制作合成物”的威胁也接连出现。对此,女记者协会30日发表声明称:“立即启动侦查,即使他们隐匿证据、藏匿起来,也要追查到底,迅速抓获犯罪者。”

该团体表示,Telegram上开设的所谓“记者合成室”“不仅严重侵害女记者的人格权,也是对新闻自由的重大威胁”,并呼吁“政府和国会尽快制定加强对深度伪造性犯罪处罚的法案”。一名女记者C某指出:“把宣称自己要成为性犯罪者当作对他人的‘威胁’或‘武器’的逻辑令人费解”,并表示“即便合成物被制作出来,也不会有女记者因此停笔”,反而传达出该聊天室点燃了记者积极采访意志的现场气氛。

阅读韩文原文