为从根源上阻断信息外泄,自行构建数据并进行训练的逆向思维人工智能(AI)安全技术正受到关注。要使该技术良好运作,必须同时具备以理解上下文的技术精准检测个人信息,并支持去标识化的能力。
据信息技术(IT)业界18日消息,生成式AI专业企业“Xenon”开发了面向金融等领域、在构建AI服务时自行生成与构建高质量训练数据的金融专用数据技术。该公司通过提供自行设计、构建高质量数据的技术方案,增强了差异化竞争力。
通常企业在构建AI服务时会接收内部数据用于训练,但这一过程中确实存在信息外泄的担忧。因此,Xenon开发了无需使用内部数据即可构建训练数据的技术。
尤其在金融领域,出于安全政策,内部数据的使用常受到严格限制。为克服这一局限,Xenon采取了在外部以“零基础(Zero-base)”直接构建再现真实金融咨询环境数据的战略。
首先,要使该技术正常运作,必须突破由大语言模型(LLM)生成的定型化数据的局限。为此,Xenon将AI Hub的民众投诉数据集作为种子数据,重构为反映真实咨询场景的数据。
此外,公司还通过将虚拟数据转换为接近真实个人信息模式的去标识化数据重构方式,以及均衡训练不常出现的特殊案例数据以防止漏检等手段,提升了数据质量。其结果是,Xenon成功获得了在真实金融业务环境中稳定运作的个人信息检测性能。
在此基础上,Xenon构建了将理解句子上下文的技术与考虑词元间关系的技术相结合的“BERT_CRF”模型。既有的个人信息检测方式依赖正则表达式或关键词匹配,对电话号码、居民登录号码等格式明确的信息相对容易识别,但在检测姓名、地址、商户名称等模式不固定的非结构化信息方面存在局限,因此需要这一技术。
BERT_CRF模型的设计可基于上下文识别并遮蔽散布在句子中的个人信息,能够更精准地检测姓名、地址、账号、支付金额等各类敏感信息。
Xenon相关人士表示:“随着AI服务的扩散,数据保护正成为并非可选、而是必需的基础技术”,“Xenon将持续提升安全技术,使AI在处理数据的所有环节都能自动保护个人信息”。他还补充说:“今后将扩大可应用于金融以及医疗、法律、公共等多个产业领域的安全模型,并持续强化针对本地部署环境优化的轻量化以及对新型个人信息类型的快速响应体系。”






