今年1月,合成美国知名流行歌手泰勒·斯威夫特面容的淫秽视频在社交媒体上流传。观看量瞬间突破4700万次,影响之大甚至令白宫发言人在记者会上作出回应。该事件使“深度伪造”的危险性与冲击力在全球范围内留下深刻印象。
深度伪造是表示人工智能(AI)深层学习的“deep learning”与表示虚假的“fake”的合成词,指利用AI技术合成现有人物面部或特定部位的视频编辑作品。
为人类文明带来划时代发展的AI技术,同时也催生了性犯罪等各种副作用。“AI先驱”、蒙特利尔大学教授约书亚·本吉奥在接受英国BBC采访时警告称:“随着AI越来越精巧和强大,令人担忧的是不良行为者掌握AI权限。”
担忧很快成为现实。全球已经在为利用深度伪造制作的假新闻和淫秽视频头痛不已。韩国也不例外。去年底,尹锡悦总统道歉的虚假视频在社交网络服务(SNS)上流传,网络上合成知名艺人面容的淫秽视频泛滥。
据广播通信审议委员会统计,韩国国内要求屏蔽、删除性相关深度伪造影像的案例从2020年的473件增至2023年的5996件,增加12倍以上。
最近被用于投资诈骗或电话诈骗的案例也在增加。实际上,被警方抓获的一个电话诈骗团伙正利用出镜节目的检察官面容开发深度伪造犯罪手法,令人震惊。尤其考虑到电话诈骗受害约80%为冒充熟人等类型,基于生成式AI的深度伪造极具威胁。
法国主流媒体《世界报》就此评论韩国称:“长期以来被称为偷拍共和国,如今则是深度伪造共和国。”
更严重的是,与AI相关的法律和制度尚未建立。目前《人工智能产业培育及确保信赖相关法律案》等多项法案已提交国会,但处理遥遥无期。
与韩国不同,世界各国正加快制定监管机制。欧盟(EU)通过《数字服务法》要求对AI内容加注单独标识,美国政府也强化了AI内容识别机制。
我们不能再坐视不管。作为AI技术的后来者,若不与发达国家主导的监管全球标准保持一致,可能在相关领域贸易中遭受不利。政府、国会与国内平台企业应携手,尽快建立可对深度伪造本身进行处罚的法律机制。当前需要设计细致的监管,以保护社会免受AI副作用之害。






