利用人工智能(AI)技术制作的深度伪造(虚假影像)性犯罪受害正日益扩散。将淫秽内容合成到个人面部而制成的虚假视频被大量制作与传播,不断产生受害者。广播通信审议委员会要求屏蔽、删除性相关虚假影像的案例,已从2020年的473件激增至今年7月底的6434件。更令人担忧的是,深度伪造性犯罪正像一种“玩闹”一样渗入青少年群体。今年被警方查获的178名嫌疑人中,73.6%为十几岁的青少年。受害者中,未满20岁者也占36.9%。各地教育厅接到的全国学校受害案例中,甚至包括8名小学生,令人震惊。
制作与传播深度伪造视频是彻底摧毁受害者人生的重大犯罪。然而许多施害者却以“虚假影像”为由,毫无严重过错的意识便实施犯罪。处罚标准偏低也是犯罪扩散的原因之一。根据性暴力处罚法,编辑、散布虚假影像行为的最高刑期为有期徒刑5年。造成数十名受害者的所谓“首尔大学N号房”事件共犯,也仅被判处5年,仅为检方求刑(10年)的一半。以“合成水平低”等理由减轻刑期的情况屡见不鲜。非以传播为目的的制作行为更是完全不在处罚之列。政府认识依然松懈也是问题。数字性犯罪猖獗,明年应对受害的预算却被削减超过15%。正因如此,才会出现全球深度伪造淫秽内容受害者中半数以上是韩国人的分析。
不能再放任这种抹杀人格、令社会病态的深度伪造犯罪。为保护国民免受数字性犯罪侵害,相关部门应密切协商制定综合对策,并加强与大型科技公司的合作。既要彻底开展查处与侦查,也要修订量刑标准,对深度伪造的制作与持有行为严厉处罚。还应尽快制定根除AI犯罪的规范,并加快推进“AI基本法”等法制建设。






