今年1月起,“FRAMEWORK ACT ON THE DEVELOPMENT OF ARTIFICIAL INTELLIGENCE AND THE CREATION OF A FOUNDATION FOR TRUST”(AI基本法)开始施行。该法将可能对人的生命、身体安全及基本权利产生重大影响或带来风险的人工智能系统定义为“高影响人工智能”,并对企业赋予风险管理与确保可信度的义务。该法基本上具有扶持AI产业的支援法性质,同时又反映了作为国际标准的“基于风险的方法(Risk-Based Approach)”,对与人权直接相关的高风险领域引入必要监管,具有重要意义。
认为把作为创新工具的AI关进监管框架可能妨碍产业发展的批评也不无道理。但不容忽视的是,高影响AI侵害人的尊严的案例已成为现实。荷兰税务当局的算法将移民家庭污名化为骗取补助者、导致家庭破裂的事件,澳大利亚政府自动化债务追缴系统威胁弱势群体生存权的“Robodebt”事件,以及美国iTutor集团招聘AI自动淘汰高龄者的年龄歧视案例等,都表明AI的技术性错误可能损害宪法价值。
这些案例要求转变AI风险管理的视角。企业通常把AI风险局限于数据质量、个人信息泄露、安全或算法偏见等层面。然而2025年欧盟基本权利局(FRA)发布的报告强调,应超越这种技术视角,将认识扩展至“实质性基本权利”的层面。例如招聘AI的不公正,已超越数据偏差或种族歧视问题,是侵害宪法所保障的“职业选择自由”和“劳动权”的重大事项。由无法解释的算法作出的淘汰,隐含阻断个人社会流动性、固化阶层的风险。归根结底,对高影响AI的评估须从“数据收集与分析是否存在错误”,迈向追问“这项技术是否损害宪法价值”的过程。
有观点担忧“高影响AI”概念抽象,可能给实务带来混乱。但正如韩国国内外AI法律及相关报告所指出的,若考察“预期目的”与“部署情境”而非技术本身的性能,标准会更加清晰。同样的人脸识别技术,用于解锁智能手机是为个人便利的低风险技术;但若用于在公共场所实时监控不特定多数人,则成为可能严重侵犯隐私、压缩集会自由的高影响AI。因此,企业除开发阶段的技术验证外,在使用与部署阶段还须能够预测并应对该技术“在何种环境下、对何人、为何目的使用”时可能侵害基本权利。
AI基本法的制定给韩国企业带来新课题。政府也通过指南提出判断标准,但核心在于提前读懂技术在社会中运行时可能产生的波及效应的“解读力”。如今企业须从“受影响者”的视角检视AI产品或服务是否可能歧视或排斥特定群体的情景,并预先建立问题发生时可进行说明与救济的程序。只有超越技术规格、能够读懂社会情境与基本权利的企业,才能跨越即将到来的AI监管浪潮,赢得全球市场的信任。






