有观点认为,深度伪造语音可能被滥用于电话诈骗等犯罪、扩大受害,因此应集中开发“深度伪造语音检测技术”。
据信息通信规划评价院(IITP)20日发布的周技术动向,近期深度伪造语音被滥用于△电话诈骗△假新闻△非法选举△投资诈骗△盗用嗓音等。
在电话诈骗犯罪中,犯罪者以深度伪造模仿子女或家人的声音,假装求助以骗取钱财。投资诈骗犯罪同样是通过深度伪造篡改名人声音,以提高投资者的信任度。
报告中,崇实大学教授洪基勋指出,通过对真实嗓音进行部分篡改的方式,使人难以判断是否为深度伪造语音,从而提高了相关犯罪发生的可能性。洪教授解释称,部分篡改的语音中大部分为真人声音,仅有一部分是深度伪造语音,因此一般检测系统会判定为真人声音。
近来全球范围内深度伪造非法合成物的受害不断扩散,美国和欧盟(EU)等相继发布深度伪造监管政策。欧盟制定了《数字服务法》(DSA),规定生成或篡改的视频、音频、图像须加以标识,使其可与真实人物或物体相区别。美国在“深度伪造责任法案”中规定须可识别影像或视觉物为AI技术制作,违反时将面临刑事处罚,法案还全面涵盖受害者支援、深度伪造检测等内容。韩国修改了《公职选举法》,禁止自选举日前90日起制作和传播用于竞选活动的深度伪造影像,并通过《性暴力犯罪处罚等相关特例法》部分修正案对深度伪造犯罪进行间接监管。
洪教授强调,要防止滥用深度伪造语音造成的危害,须通过开发“深度伪造语音检测技术”等多种研究,构建安全的AI应用环境。他表示:“虚假语音可以直接传递错误信息,因此深度伪造语音检测的重要性日益提升”,“应在需要此类功能的国家机构和研究机构的关注下推进各种研究,构建可检测深度伪造的安全AI应用环境”。






