围绕AI可信性(Trustworthiness)的各种讨论正在展开。具备可信性意味着虽不完美,但维持在一定程度上可接受或可管理的状态,这可以视为AI安全(Safety)得到了保障。
安全与信任在概念上不同,但政策目标一致。AI可信性最终面向的是使用AI的用户。这其中包括AI基本法上受到影响的人,他们并非AI专家,而是过着平凡日常生活的自然人。讨论应以AI被用于其本来意图的便利与利益为前提展开。这并非无思无虑的状态,而是包含对极为个人化情境中发生的问题应如何解决的假设。进一步说,使问题不致发生或维持可管理状态同样是重要议题。
在AI可信性得到保障的情况下,任何人在使用AI时都会期待安全状态得以维持。可信性的主要要素包括公平性、透明性、安全性、责任性、可解释性、隐私保护等,若这些要素全部或部分未被遵守,用户便会评价该AI不可信。
国内外都列举了诸多有关AI可信性的要素,但这些要素是否具备一致性令人怀疑。这似乎是因为各机构或团体依其特性,以各自领域中优先的要素为中心提出主张。
不过,应避免以抽象概念断言信任未被守护。这属于责任领域的问题,若是可管理或可接受状态下的可信性,也应考虑恢复力或修复情形。若出现无法解释的情况,只要在该系统中加入可解释模块,或采取措施使人能够加以说明,便可视为已被管理的状况。
关于透明性同样如此,从数据伦理角度要求公开数据来源、类型等信息。当然,依数据性质不同,也与隐私存在关联。可见可信性要素既可能单独发挥作用,也会相互关联地发挥作用,因而不易区分。
因此,对可信性的理解难以视为绝对评价。重要的是明确提出能够评估可信性是否下降、或哪一要素有所不足的标准。这是因为与AI伦理一样,可信性这一概念本身相当抽象和主观。若以缺乏可信性为由评价其缺乏责任性或追究法律责任,恐难以被轻易采纳。相反,有必要限定于因伦理上可谴责性而产生的责任。可见,从法律层面追究AI可信性的责任并非易事。但为应对AI可能引发的事故并明确责任,准备好针对可信性要素的议题及可依法应对的情形是必要的。
虽然关于AI可信性的法律责任与标准尚未明确提出,但可参考欧盟AI法按四种风险等级强制确保透明性的做法。欧盟AI法强调经营者的透明性,这可视为提升AI可信度并保障安全的措施。此外,AI可信性也在于提升AI技术所追求的人类价值。安全意味着在物理、心理与社会层面的安宁状态。在使用AI的过程中,若被认为可以信赖,人们便会使用该服务。信任可视为为了安全而形成的关系。AI所追求的价值在于让用户安全地使用该服务或产品,因为通过形成信任关系才能建立安全的社会。
AI伦理起到补充可信性的作用,并应贯穿AI全生命周期加以适用。因为伦理是填补法律与制度不足之处的社会价值规范。国家有必要从治理层面处理安全问题。强调安全可能被视为具有监管属性,但简单地将其断定为监管是不妥的,因为难以预见AI将如何发展、得出何种结果。其中应包含基于事前预防原则的政策目标。确保服务或产品的安全性,也可在消费者基本法或产品责任法的立法目的中找到依据。AI基本法包含了为确保AI可信性的各种政策规定,可信性认证、影响评估、生成式AI的标示等即为其例。这是为了克服AI的内在局限与技术局限,或确保未预期的技术安全。
在讨论AI可信性时,需要区分可信性与安全性并检视二者关系。AI基本法中没有关于安全的规定,但AI可信性所要求的信任水平应服务于使用AI的国民安全。
可信性这一抽象概念在法律上不易定义,因此应从AI伦理层面加以处理。AI基本法认识到这一局限,虽设有为确保可信性的政策规定,但未另设处罚规定。
通过AI可信性所获得的价值是国民的安全。尽管可信性是抽象概念,但通过提出能够使其明确化的原则与标准,可以提高经营者的可预测性。这也是AI基本法中必须包含兼顾技术振兴与国民安全的均衡政策的理由。包含利用AI解决社会问题、普及素养等内容的AI基本法修订讨论,越早开始越好。AI基本法案目前仅剩国会全体会议表决一道程序。






