2025-09-02 | 김윤수 기자

要开发识别电话诈骗的AI,须先获“诈骗犯”同意使用其声音

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

个人信息保护相关监管亟需改善的另一个领域是应对电话诈骗犯罪。随着人工智能(AI)的发展,如今甚至可以在通话过程中实时判断是否属于电话诈骗,但服务的商用化却受到限制。原因在于,要让AI学习优质数据,就必须获得通话当事人——也就是诈骗犯——的同意,这一令人哭笑不得的监管仍然存在。

据信息技术(IT)业界2日消息,为利用AI学习数据而于今年1月提出的《个人信息保护法修正案》至今仍搁置在国会政务委员会。修正案载入了为特例提供法律依据的内容,允许在防范电话诈骗等社会必需的AI开发中使用原始数据。有观点指出现行法律在应对电话诈骗方面存在局限,作为个人信息政策主管部门的Personal Information Protection Commission也认为,为改善制度,修正案通过刻不容缓。

目前,依据韩国个人信息保护委员会的《生物信息保护指南》,用户声音或面部照片等生物信息在未获信息主体同意的情况下,AI开发商不得用作学习数据。将其适用于电话诈骗领域便产生了悖论:AI要通过听取通话对方的声音识别诈骗犯,就必须大量学习既有诈骗犯的语音数据,但为此又需要取得声音主人即诈骗犯的同意。

语音数据不仅可用于比对诈骗犯的声音,还可用于声纹(voiceprint)分析。声纹如同手指指纹,是声音中可识别个人的固有特征,通过分析声纹,即使诈骗犯伪造变造声音也能被识破。实际上,国立科学调查研究院已建立了收录诈骗犯声音的数据库(DB)"那家伙的声音"。但按现行法律,用于电话诈骗探测的AI学习只能提供将语音转换为文本的数据。如此开发出的AI服务,只能停留在分析疑似电话诈骗的对话脉络和关键词,而无法分析声纹。

有观点指出,这类监管也不符合全球标准。例如美国除伊利诺伊州《生物识别信息隐私法》(BIPA)等部分州法律外,在联邦层面并无相关监管。个人信息保护委员会相关人士表示:"美国只在金融、儿童青少年保护等各个领域中需要个人信息保护的部分进行精准监管。"此外,近来东南亚电话诈骗激增,应对技术需求扩大,业内期待若将国产技术高度化还可实现出口。据业界透露,越南、马来西亚等当地电信运营商正频繁向韩国电信运营商咨询电话诈骗应对相关事宜。

韩国科学技术情报通信部与个人信息保护委员会上月末将暂缓新技术监管的监管沙盒适用于KT的电话诈骗探测服务,暂时允许AI学习语音数据。LG U+也已申请监管沙盒,预计不久将推出服务。业界人士称:"监管沙盒只能将监管暂缓2至4年,存在局限","从根本上讲,修正案的通过刻不容缓。

阅读韩文原文