2026-01-19 | 김흥록 기자,서지혜 기자,양지혜 기자

“AI标识要标到什么程度”…法案处处是灰色地带

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

人工智能(AI)基本法施行仅剩两天,但由于法令适用标准不明确,产业现场纷纷诉苦称混乱。AI应用较多的信息通信技术(ICT)业界正通过修改条款等方式为AI基本法做准备,但也深感担忧,怕在无意中触犯违法行为。原因在于法案多处存在灰色地带(grey zone)。

专家与业界认为,在施行过程中根据现实逐步调整的适应过程不可避免。因此有评价认为,全球首个施行的AI基本法究竟会成为监管之刃还是创新之器,取决于政府的运营意志。

据业界20日消息,Kakao集团为应对22日AI基本法施行,将自下月4日起适用修订后的条款。新的运营条款中写明“服务可能包含基于AI运行的内容,若提供由AI生成的成果物,将依据相关法律进行告知与标示”。因为根据AI基本法,利用AI制作的图像、视频、语音内容必须加注表明“AI生成物”的识别标示(水印),即所谓透明性义务。

不过,具体的水印实施方案在包括Kakao集团在内的内容平台业界内部仍在讨论中。例如,在短视频服务中标注“AI生成视频”时,是仅在视频开头告知,还是在整个视频上加水印,仍需与政府协商。游戏业界一位相关人士表示:“用AI开发的游戏是否属于透明性义务对象,仅在特定要素中使用了AI是否也要标注水印,其标准仍在与相关机构协商中。”另一位业界人士表示:“如果用AI视频编辑器制作了电影,是编辑软件企业承担告知义务,还是电影公司承担告知义务,也不明确”,“目前只能一边施行一边观察政府的方针和法律适用情况。”

全球科技巨头也十分担忧。微软(MS)、OpenAI等为会员的全球软件业界团体商业软件联盟(Business Software Alliance·BSA)于上月22日向韩国科学技术情报通信部提交建议案,指出对AI基本法部分条款仅暂缓罚款并不充分,要求对法律义务的履行本身予以临时性暂缓。

BSA在该建议案中最重点指出的是“高影响AI”规定。高影响AI指可能对生命、身体安全或基本权利产生重大影响的AI,即应用于医疗、能源、金融、招聘等敏感领域的AI。这与透明性义务一样,是国内外企业均反映标准不明确、负担沉重的领域。

海外企业担忧该问题可能影响全球服务设计与上市战略的整体布局。因为难以事先判断哪类AI属于高影响AI,甚至连能否在韩国推出相关服务都难以预先知晓。BSA在建议案中解释称:“在高影响AI判断标准不明确的情况下,若相关义务立即适用,企业将承担过高的事前准备成本和难以预测的法律风险。”

BSA还指出,作为高影响AI判断标准提出的算力(FLOPS)标准也未能反映技术变化速度。此外,要求指定国内代理人的条款也被视为负担因素,因为施行令未明确规定代理人的责任范围。

专家认为,在22日施行后一年的处罚缓冲期内,如果政府以处罚为主适用法律,不确定性带来的副作用将进一步扩大。韩国人工智能法学会会长、嘉泉大学法学院教授崔庆镇表示:“AI模型或服务若失去信任,需求就会萎缩,因此政府希望通过AI基本法确保稳定性与可信度的立法宗旨,从产业角度看也是积极的”,“但在标准不明确的情况下将法律用作监管工具,AI创新必然萎缩,因此施行后的运营智慧正是当下的关键。”

另一方面,国际人权团体企业与人权资源中心(BHRRC)强调需强化标准,称“欧盟AI法明确禁止公共场所人脸识别等人权风险较大的AI,但韩国AI基本法中完全没有此类禁止条款”。

阅读韩文原文