共同民主党总统候选人李在明5日在第20项“小确幸”承诺中表示,将对利用深度伪造(deepfake)技术的侵犯人权犯罪予以严厉惩处。深度伪造是深度学习(deep learning)与伪造(fake)的合成词,指利用人工智能伪造特定人物面部或声音的技术。
李在明当天在自己的脸书上发文,如此表示:“必须对制作、传播艺人合成淫秽物、电话诈骗等严重侵犯人权及犯罪行为予以强力应对。”李在明称:“最近已故歌手申海澈以其生前主持的广播节目主持人身份惊喜出现,引发热议。那是深度伪造声音。”“利用深度伪造,可对现实中难以拍摄的电影场景、癌症诊断用影像、心理治疗等多种产业发展带来积极影响。”他强调:“但在深度伪造带来便利与产业机会的同时,也有需要解决的课题”,“必须应对制作、传播艺人合成淫秽物或电话诈骗等严重犯罪”。他还补充说:“正如鼓励美国大选投票的金正恩委员长合成视频、批评特朗普总统的假奥巴马总统视频等案例,深度伪造假新闻是可能在本次大选中立即扭曲选民选择的严重威胁。”
李在明计划在加强惩处的同时,补强当局的应对能力。他解释说:“将强化现行法律,不仅严惩恶意深度伪造视频的制作、传播,也严惩持有、购买、储存行为”,“将开发识别深度伪造视频的技术,提升应对能力”。此外,他还承诺将要求加强民营企业的自律监管,以防恶意深度伪造视频扭曲选民的选择。






