在6月地方选举前,首尔一名基层议员成为“深度伪造勒索案”的目标。每逢选举季滥用深度伪造的犯罪反复出现,有人指出除了加重处罚外,制定切实有效的对策也十分紧迫。
据警方4日消息,首尔江西警察署已受理通过国民信访窗口提交的江西区议员金民锡被勒索案并展开调查。据悉,这位区议员收到的邮件中附有他与素不相识的女性裸体躺卧的深度伪造照片,并索要钱财。
此前在2024年,首尔、仁川、大邱等地也曾有40余名男性基层议员收到类似的勒索邮件。邮件中附有用深度伪造技术合成议员面部的照片,并要求支付巨额加密货币作为删除的代价,还包含“我们掌握着犯罪证据,请立即联系”等字句。
然而首尔警察厅网络犯罪调查队去年8月因未能锁定嫌疑人而中止了调查。由于邮件从海外发出,警方曾请求国际刑警组织协助,但一直未获回复,调查陷入困境。警方表示,此案属于中止而非终结,如获得新线索将重启调查。
去年第21届总统选举期间,也接连出现诽谤候选人的深度伪造视频引发争议。中央选举管理委员会以违反公职选举法为由,对在网上传播将特定候选人合成为身穿囚服在监狱中的图像的3人提起控告。根据2024年1月实施的修订版公职选举法,利用深度伪造发布虚假事实者可被判处7年以下有期徒刑。这些人还在油管频道上让AI生成的女主播出镜,发布新闻形式的假视频。
随着人工智能(AI)技术日益成熟,与真实的区分越来越困难,且可通过非面对面方式轻易再生产,令担忧进一步加剧。专家一致认为,需要的不是一次性措施,而是提升检测技术、面向选民开展教育等可持续的对策。选举管理委员会表示,在6·3地方选举前,将积极运用鉴别程序,对恶意发布虚假事实、诽谤行为以及利用深度伪造视频等的犯罪予以严厉应对。






