2026-08-10

[白象论坛]公共AI法实施与民主行政的条件

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

《关于人工智能(AI)及数据驱动行政活化的法律》(公共AI法)将于本月28日施行。政府通过该法拓宽了将AI正式用于行政服务和政策决策的制度范围,要求构建跨政府通用基础、系统管理公共AI服务清单,并将原有数据驱动行政责任官的职责扩大到AI领域。明确即使使用民间技术,最终权限与责任仍在公共机构,这一点意义重大。此类法制整备表明,“公共部门的AI转型(AX)”已超越试验阶段,在行政一线全面展开。继今年1月AI基本法与数字包容法施行之后,公共行政的AI运用原则也得以确立,应对AI转型的法律与制度基础正逐步成形。

然而,制度的确立并不等于市民便利与权利得到实质保障。当然,现行法中也有保护装置。个人信息保护法允许对AI等完全自动化系统作出的决定要求说明。若该决定对个人的权利或义务产生重大影响,还可要求拒绝该决定或经负责人复核后重新处理。行政基本法要求自动化处分具备法律依据并设置异议申请程序,行政程序法规定须说明处分理由。问题在于,这些保护规定分散于多部法律,适用条件和救济程序会因AI是直接作出决定还是辅助公务员判断而不同。

市民要行使权利,就必须能够知晓行政机关在决策中使用了多少AI、是否使用了个人信息。但对于依据法律仅由系统作出的处分,个人信息保护法上的拒绝权或要求负责人复核的权利并不适用。对于负责公务员尚有判断和选择余地的处分,法律限制其完全交由AI处理。AI在决定福利支援顺序或调查对象时的判断会极大影响结果,却可能被内部程序所掩盖。引入AI的是国家,而弄清适用法律和救济程序的负担却落到市民身上。

公共AI的盲区不止于法律适用问题。基于积累的行政数据作出判断的AI,可能无法准确反映收入或家庭关系骤变、记录不充分的市民的现实处境。高龄者、残疾人、移民以及数字环境薄弱地区的居民,可能连接触AI服务都存在困难。数字包容法规定了努力使人们在不使用数字技术的情况下也能获得同等服务的义务,但仅此并不够。除线上申请和聊天机器人之外,还须保障由人应答的电话咨询和现场窗口。

海外案例同时显示了自动化的风险与民主控制的重要性。澳大利亚的“Robodebt”依据平均收入数据自动核算福利给付追缴金额,并将证明错误的责任转移给市民,造成了巨大的社会损害。相反,加拿大按风险等级对说明与监督义务作出不同要求,英国则公开公共算法的使用目的和负责人的介入方式。核心在于让市民知道AI用在何处、为何使用,以及出现问题时可以向谁提出异议。

行政权限是国民托付给公共机构的,并非交给AI或开发AI的企业。公共机构应让市民便于确认AI用在何处、如何使用,责任部门和异议提出方式是什么。对市民生活与权利影响越大,就越应保障负责公务员的实质性复核。公共AI服务清单还应涵盖负责人的介入方式与异议受理窗口。

公共AI法将AI运用的最终权限与责任置于公共机构,这是重要的第一步。但民主主义的主权,只有在国民知晓技术的使用、能对其判断提出异议并纠正错误决定时,才真正具有实质意义。必须让公共AI扩散的速度与方向,建立在市民权利与控制的基础之上。

阅读韩文原文