2025-02-23 | 임종현 기자

[率先垂范]告知“AI生成成果”…还须确保用户保护方案

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

《FRAMEWORK ACT ON THE DEVELOPMENT OF ARTIFICIAL INTELLIGENCE AND THE CREATION OF A FOUNDATION FOR TRUST(AI基本法)》已在国会全体会议通过并公布,将自2026年1月22日起施行。这是继欧盟(EU)之后全球第二部施行的人工智能相关法案。欧盟自去年起引入的《欧盟人工智能法(AI Act)》按AI系统的风险水平分为四类。同时对高风险AI系统适用严格监管,违反者最高可被处以年营业额7%的罚款,属于强力监管。相比之下,AI基本法在监管上更为宽松,并包含扶持AI产业的内容。

即便说是宽松的监管,也只是相对欧盟而言宽松,在韩国国内运营以AI为基础的服务的企业,有必要事先审视自身是否属于即将实施的AI基本法的适用对象并做好准备。目前AI基本法对提供“高影响人工智能”与“生成式人工智能”中任一服务的经营者,赋予了确保透明性的义务:△事先告知该服务基于AI运行这一事实的义务 △生成式人工智能须标示成果由AI生成这一事实的义务 △提供深度伪造成果时,须明确告知并标示该成果由AI生成的义务。这些义务中还包括根据规模确保安全性。特别是对“高影响人工智能”经营者赋予了更高程度的安全性、可信性确保义务,如制定并实施AI说明方案、制定并运行用户保护方案等,因此AI相关企业必须核查自身是否在提供“高影响人工智能”。所谓“高影响人工智能”,是指对人的生命、身体安全及基本权利产生重大影响或可能带来风险的人工智能系统,并被用于法律所列举的领域之一。目前列举了医疗、自动驾驶等出行、金融、能源等领域,今后随着“重大影响”边界的界定,适用对象预计将会扩大。若AI经营者未履行义务,将接受科学技术信息通信部的事实调查。此外,根据调查结果还可能被处以罚款。

目前AI基本法已于今年1月成立下位法令整备团,今后将制定政府具体的AI产业振兴方案与支持政策、“高影响人工智能”的范围、对AI使用经营者与AI开发经营者的具体义务及责任分配、人工智能经营者所承担义务的细节等。作为AI经营者,有必要监测并准备与此相关的政府政策制定动向以及细则法令的制定动向。

阅读韩文原文