2024-07-07 | 서경IN

寻找AI自律与监管的平衡[金润明博士的AI Wave]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

AI可能带来的各种风险,是交由市场自律,还是为了国民安全通过监管来管理,这是一个复杂的问题。自律与监管相互补充,偏向任何一方的做法都可能成为问题。

正如技术与使用相互关联,自律与监管也必须取得平衡。AI具有黑箱特性,其运作原理和结果往往难以预测。因此,为实现安全的AI,需要在技术和制度层面采取多种方案。例如,可解释AI技术的发展和国际标准化正在推进,这也成为技术外交的重要因素。

与AI相关的全球讨论和政策在各国呈现不同走向。2023年11月,英国布莱奇利举行了关于AI安全的全球讨论AI Safety Summit,并达成了《布莱奇利宣言》(Bletchley declaration)。2024年5月,后续讨论AI Seoul Summit在首尔举行,议题超越了AI的偏见、公正、信任等价值,涉及AI安全。此外还宣布设立AI安全研究所,以推进AI安全相关政策和技术监测。AI安全研究不应只是某一个部门的职责,而应视为跨部门的职责。

AI是通过高度算法实现的决策系统。它按既定条件运作,若不符合该条件便处于存在"缺陷"的状态。过去在软件安全的讨论中,只要软件缺陷处于可接受或可应对的水平,就不被视为重大问题。但AI作为黑箱,其原因与结果难以预测,仅停留在相关关系而非因果关系的推断层面。因此,人们正在从技术层面、制度层面等多方面谋求AI安全的对策。

可解释人工智能正在多个领域被研究,国际标准化工作也在推进。标准化是技术外交的一种手段。特别是国际标准在全球AI政策或技术上可能掌握主导权,因此可视为技术外交的重要领域。提升可解释性的立法正在推进,这对于在技术过程中获得用户信任是必不可少的。

最近,为确保生成内容的安全,检索增强生成(RAG)技术被提出作为缓解幻觉现象的方法。检索增强生成可视为古典AI中的专家系统(expert system)。曾引发AI寒冬的专家系统,如今正迎来其作用被重新认可的时代。可见技术发展相互融合、或成为解决技术所引发问题的手段的可能性也很高。不过,应避免一味用技术来解决技术的问题。因为对技术问题的最终判断和责任主体必须是人。否则,人对技术问题的责任可能被排除。针对AI引发的诸多问题,强调透明性、公正性、问责性等的政策已被提出。归根结底,这都是为了最终用户即普通国民的安全。

Claude AI所采用的宪法式AI(constitutional AI)在回答过程中甚至会检查法律事项。像这样明确指出AI生成结果中违法内容存在问题,也是有意义的。虽然使用了"宪法式"这一表述,但可将其视为把人应具备的伦理内容系统化整理并应用于技术的模型。可以理解为确定最高规范,并据此具体化下位规范。

这相当于在AI模型中实现了一种立法体系。像这样,不仅生成结果,还能把握提问的脉络,并就其内容在法律上是否存在问题给出建议,用户便可对自身行为作出伦理判断。

当然,它也可能起到自我审查的作用。不过,由于在此过程中能够对损害他人名誉或自身违法行为作出判断,因此难以断定其损害了表达自由。归根结底,最终判断仍是用户自行选择的结果。

鉴于社会性监管本身具有保障安全的性质,为确保技术安全的监管必须具备必要充分性。也就是说,应在最低限度的安全性得到保障的状态下允许新技术或新事业,并在发展过程中调整和强化安全性保障。归根结底,对AI的监管性质需要依其特性采取相应的监管路径。

企业偏好的自律监管,其前提是企业或开发者自身必须比AI更具伦理性。"先允许后监管"曾引发争议,但没有事前监管并不必然产生积极作用。

因为一旦这类监管以强监管形式实施,或成为难以预料的监管,巨额投资就可能化为泡影。像这样,若在没有事前监管的情况下允许作为未知技术的AI进入市场,经营者能否充分应对相关风险或可预测性令人怀疑。

因此,应依AI的性质或目的提出具体标准,使经营者和用户能够预测、能够信赖。政府的监管正从AI伦理转向如欧盟《AI法案》那样的法律监管,但模型本身仍然只能像人一样优先适用伦理价值。

AI安全归根结底是为了国民的安全而存在,为此需要适当的监管。自律监管以企业自觉遵守伦理标准为前提,但在可预测的范围内通过安全监管来管理AI技术的问题、赢得国民信任,才是重要的。

阅读韩文原文