2024-02-18 | 윤지영 기자

[旋转门] 明智地引入AI

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

随着引入生成式人工智能(AI)的企业增多,关于如何安全且合规地使用AI的讨论持续不断。大多数讨论集中在已引入AI之后的应用阶段的安全性上。然而,在AI模型学习数据、开发及运营的整个过程中都会产生新的安全漏洞。因此,在引入AI的所有阶段确保安全性是必需的。

引入AI的第一阶段是收集和处理用于训练模型的数据。在这一阶段,不仅要收集大量供给AI模型的数据,还需向数据科学家、工程师、开发者等各类人员提供访问权限。将所有数据集中于一处,并向缺乏安全经验的利益相关者赋予数据访问权限,必然伴随风险。若对训练数据处理不当,作为业务根基的知识产权(IP)可能外泄;而在AI模型中使用海量数据,也可能引发企业个人信息保护问题及其他敏感信息泄露等各种风险。

接下来是模型开发过程。AI应用开发在多数情况下始于数据科学团队从开源AI模型仓库中获取预训练AI模型并按用途进行修改。问题在于,这样提供的模型往往不具备全面的安全功能。没有资源或专业知识自行构建AI模型的企业,很可能利用已在线上搭建并提供服务的AI。攻击者也意识到这种方式将成为AI的主要消费模式,因此把在线传输的数据作为访问并滥用的目标。

在AI模型运营阶段,攻击者可通过操纵信息解除模型自身的安全防护网,生成包含带偏见的虚假信息及其他有害信息的回应,诱导模型出现异常运作。还存在模型被窃取的风险,即攻击者编写对AI的指令即提示词并收集输出结果,训练出模仿目标模型行为的替代模型。两种情况都会妨碍模型的正常运营,严重损害企业声誉,并引发高昂的资源成本,从而给企业造成财务损失。

那么企业应如何应对?正如攻击者利用AI这一新武器,对企业而言AI也是防御武器。企业应通过以AI武装的安全专家,更严格地开展数据检索与分类、静态数据及传输过程中的加密、身份与访问管理。持续扫描AI模型整体的漏洞、恶意软件、损坏情况也很重要。此外,提升全体员工的安全意识,让数据科学家和研究人员与安全团队紧密协作以构建适当的保护装置,是基本要求。

AI带来的创新令人瞩目,但新技术中也潜藏着尚未被掌握的风险。若将防御重点置于识别针对AI可能性最高的攻击并迅速加以保护,就不会因惧怕安全风险而回避引入AI,而能找到最大化发挥AI潜力的明智使用方法。

阅读韩文原文