2026-03-09 | 진동영 기자

[转盘] 应以“可解释的AI”增添信任

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

这是人工智能(AI)深度影响日常生活的时代。从科学技术研究、医疗诊断辅助、金融贷款审查,到人力招聘推荐,如今已难以找到AI未涉足的领域。AI越是深度参与人类的重要决策,我们就越要面对一个问题:究竟能在多大程度上信任AI。

在此,“可解释AI(XAI·eXplainable AI)”成为重要概念。即当AI作出某一结论时,其判断依据和过程应能以人类可理解的方式加以说明。AI给出的结果本身容易确认,但要理解其得出该结果的背景与过程绝非易事。因此AI常被称为“黑箱”。问题在于,这种黑箱结构会削弱说明责任(accountability),并最终降低社会对AI的信任。如果无法得知AI为何作出那样的决定,即便结果合理,使用者也难免感到不安。

可解释AI超越单纯的技术课题,还与法律和社会问题相连。要求说明AI以何种方式作出判断,也是为应对侵害个人权利可能性的重要控制装置。然而,落实AI的说明义务绝不简单。因为AI模型是由众多变量与数据结合的复杂算法运行的。出于这一原因,也有主张认为,为确保AI所得结论的可信性,应透明公开算法。但AI企业以公开算法可能导致商业秘密外泄为由表示反对。

要解决这一问题,需要在无条件公开与不公开之间寻找现实的平衡点。与全面公开算法相比,通过具备专业性和独立性的机构建立验证体系可成为替代方案。即在保护企业技术资产的同时,使外界能够核查AI系统是基于何种信息作出判断的。

为此,支撑技术发展的法律与制度整备也需同步进行。第一,需确保使用者就AI判断要求说明的权利具有实效性。不应止步于单纯的宣示性权利,而应设定以可理解方式提供说明的义务,并建立对其结果提出异议的程序。第二,对于直接影响国民生命、财产及基本权利的AI,需明确规定确保可解释性、记录保存、人类监督义务等。此类规范宜以管理风险为方向设计,而非禁止或抑制技术本身。第三,还应整备针对AI可能造成的损害的责任结构。需强化未履行说明义务的经营者的责任,并考虑到受害者难以进行技术举证的现实,研究减轻举证责任。

AI正成为我们社会的核心基础技术。与技术发展速度同样重要的,是对该技术的信任。可解释AI并非为抑制技术的监管,而是通过营造使用者可安心使用的环境,来支撑技术持续发展的努力。AI越来越多地代替人类作出判断,人类就越应能够理解这些决定的理由。

阅读韩文原文