2026-08-31 | 서경IN

深度伪造性犯罪,仅靠加重处罚就够吗 [吴正翼的AI Law洞察]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

广播媒体通信审议委员会近期就64个基于AI的色情、深度伪造生成网站表决通过屏蔽接入并要求整改。据称,这些网站提供的服务是:上传真实人物的面部或身体照片后,便按用户输入的指令生成色情照片或视频。

另据报道,一名被告人因擅自登入女性教职员账户非法获取照片和视频资料,并利用其制作深度伪造视频的嫌疑于近期被起诉。检方求刑有期徒刑12年等,但一审法院判处有期徒刑3年等。

随着人工智能技术发展到可轻易用于图像或视频制作的程度,普通人也能便捷使用,如前所述,利用深度伪造图像或视频实施的性犯罪正在增加。就此,笔者常听到记者或熟人提出:利用深度伪造图像或视频实施性犯罪,是否应当更严厉地处罚?

散布、销售或出租淫秽图画、胶片及其他物品,或以此为目的制作等行为,依据刑法第243条或第244条可处1年以下有期徒刑或500万韩元以下罚金。不过条文规定为“淫秽文书、图画、胶片及其他物品”,因此若深度伪造成果仅以未载于物理载体的计算机文件或数字生成物形式存在,则难以依据该条款处罚。

对数字文件形式的色情物品流通,可适用近期修订施行的ACT ON PROMOTION OF INFORMATION AND COMMUNICATIONS NETWORK UTILIZATION AND INFORMATION PROTECTION(以下简称“信息通信网法”)第44条之七第1款第1项及同法第74条第1款第2项。即通过信息通信网流通淫秽图像或视频等,可处1年以下有期徒刑或1000万韩元以下罚金。

当然,若可认定此类视频损害对象的名誉等,也可能构成诽谤罪。

若淫秽视频等中出现儿童或青少年,无论是虚构人物还是真实人物,制作或散布此类视频等依据《儿童·青少年性保护相关法律》(以下简称“青少年性保护法”)第11条可被更严厉处罚。例如制作该视频者,可处无期徒刑或5年以上有期徒刑。

此外,违背对象意愿,将他人面部或身体等编辑、合成或加工为可引发性欲或羞耻感的形态,例如通过深度伪造制作淫秽图像或视频,也可能受到处罚。对如此制作的深度伪造视频予以散布、销售、出租、提供,或持有、购买、储存、观看的,亦可依据《性暴力犯罪处罚等相关特例法》(以下简称“性暴力处罚法”)第14条之二等受到处罚。

合成、加工、散布、提供等行为,可处7年以下有期徒刑或5000万韩元以下罚金。若以营利为目的实施散布、提供等行为,可处3年以上有期徒刑;持有、购买、储存或观看此类深度伪造视频等,可处3年以下有期徒刑或3000万韩元以下罚金。

虽然各法律的保护法益、行为样态与构成要件等有所不同,但仅比较法定刑,则处罚由轻到重依次为刑法、信息通信网法、性暴力处罚法、青少年性保护法。信息通信网法与刑法的有期徒刑上限相同,但罚金上限不同。

可见,利用深度伪造图像或视频实施性犯罪,依现行法已可处罚。尽管如此,周围之所以仍质疑能否更严厉处罚,或许是因为仅凭在Kakao Talk、Instagram等社交网络服务(SNS)上轻易获取的照片或视频,任何人都能利用人工智能技术制作特定人的淫秽图像或视频,危险性极大。

然而,在非性犯罪的其他犯罪中,人工智能技术也可能被利用,使作案更为容易。近期警方就以在6·3地方选举过程中利用深度伪造视频从事竞选活动等嫌疑,对前现任公务员等申请事前逮捕令的案例便是一例。

另外,数年前海外还发生过利用深度伪造技术冒充公司高管欺骗对方、致其转出公司资金的诈骗案件。可见,借助人工智能的深度伪造技术,既有犯罪可以更轻易、更精巧地实施。那么,对这些犯罪加重处罚是否就是答案?

若认为应制定或修订法律,以更严厉处罚利用深度伪造技术的性犯罪,那么这一逻辑同样适用于利用深度伪造技术的其他犯罪。如此一来,或许就要考虑对几乎所有犯罪加重刑罚的方案。

人工智能技术发展极快且影响遍及所有领域,因而更受关注。但从历史上看,也曾出现随着技术发展、新技术被用于部分犯罪,使手法更精巧、作案更容易的情形。

在那些情形下,虽然也曾通过修法强化刑事处罚来应对,但同时亦引入了限制该技术使用、或研发应对技术型犯罪的防御技术等补充措施。

深度伪造问题也可考虑以此方式应对。例如可以考虑,原则上禁止深度伪造技术服务提供商向未经特别许可或申请程序的用户提供服务。

或者,在使用深度伪造技术服务时,记录用户身份与服务使用内容等信息,并将该记录报告主管行政机关加以管理。对于深度伪造图像或视频等,也可考虑要求以不仅用户、观看者也能明确认知该成果由人工智能系统生成的方式予以告知或标示。

FRAMEWORK ACT ON THE DEVELOPMENT OF ARTIFICIAL INTELLIGENCE AND THE CREATION OF A FOUNDATION FOR TRUST,即所谓“人工智能基本法”第31条第3款规定,应以用户可以认知的方式告知或标示该事实。因此,也可考虑将认知主体从用户扩大至接触该视频等的第三方的修订内容。

然而,要制定此类应对方案,首先需要充分的社会讨论。特别是将服务提供本身列为许可对象,或要求记录用户身份与使用记录并报告行政机关的方案,伴随着对匿名表达自由和个人信息自决权的限制。因此不仅要审视目的的正当性,还需一并审查手段的适当性、侵害的最小性与法益的均衡性。应避免在缺乏充分思考的情况下推行制度、事后把责任推给他人的结果。

人工智能技术发展极快,并在所有领域产生相当影响。这不仅体现在前述刑事犯罪上,其他领域亦然。例如自动驾驶技术商用化后,公交车或出租车司机的岗位可能减少甚至消失。

正因如此,现在有必要就人工智能技术的使用范围与领域展开更具体、更细致的社会讨论。若有必要,笔者以为,恰恰应当利用人工智能技术,在全社会范围内正式开启这样的讨论。

阅读韩文原文