2024-12-26 | 김윤수 기자

“AI基本法”在国会全体会议通过

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

涵盖人工智能(AI)产业培育与监管依据的国内首部基本法,在弹劾政局中艰难跨过国会门槛得以制定。不过专家评价认为,这仅是应对快速强化的全球AI监管迈出的第一步。在近来针对假新闻(虚假信息)、深度伪造等AI副作用,全球性监管标准、即所谓全球标准的确立动向全面展开之际,有观点指出,为保护本国企业,政府完善相关制度与业界先行制定自救对策都十分紧迫。

26日国会以出席264人中赞成260票、反对1票、弃权3票通过了FRAMEWORK ACT ON THE DEVELOPMENT OF ARTIFICIAL INTELLIGENCE AND THE CREATION OF A FOUNDATION FOR TRUST。据当日信息技术(IT)业界消息,政府决定在明年2月10日(当地时间)于法国巴黎举行、有主要国家参与的“巴黎AI行动峰会”上,主导承办五大主要议题环节之一的“AI信任(Trust in AI)”环节。据悉,韩方人士主持会议等方案正在与法方协商。这意味着韩国在今年5月“AI首尔峰会”之后,还将在巴黎主导有关AI安全的全球讨论。此外,有预测认为,在巴黎AI峰会上,欧盟(EU)将依据其AI法制定全球企业须遵守的指引即“行为准则(code of conduct)”,AI安全有望成为整个活动的核心主题。

与此相应,当日《关于人工智能发展与信任基础建设等的基本法案(AI基本法)》在国会全体会议上获得通过,推动立法的政府乃至业界都表示“松了一口气”。原因在于,随着欧盟新年起全面实施AI法等,全球范围内确保AI安全的监管日趋强化,韩国也应制定AI基本法,让企业适应监管环境,助其进军海外,这种声音占据主流。随着假新闻、深度伪造、侵犯个人信息和著作权等AI技术弊害加剧,指代预防这些问题的相关技术与政策的AI安全,其重要性已不亚于性能。

AI安全研究所所长金明柱表示:“企业若要出口AI,就必然要接受全球监管”,“与其如此,不如通过AI基本法及相应的先行监管先在国内解决问题,再走向海外,这样更有效率。”一家AI企业相关人士也表示:“没有指引,技术无法独自发展”,“不落后于竞争国、明确给出方向是值得欢迎的事。”AI基本法将对用户生命、安全和基本权利产生重大影响的AI技术界定为“高影响AI”,并规定开发商须履行确保AI可信度的义务,如在AI生成内容中加入水印(识别标示)等,对违规行为则由韩国科学技术情报通信部可进行事实调查和下达整改命令。

不过也有观点指出,AI基本法要真正发挥效果,制定施行令等后续措施十分紧迫。业界相关人士表示:“最具代表性的是须将高影响AI具体化”,“例如基本法将用于医疗器械的部分AI系统视为高影响AI,但只有明确哪些技术属于该范畴,企业才能确定开发方向、减少顾虑。”

还有观点认为,仅靠AI基本法难以充分支持产业。为满足AI电力需求所必需、但仍搁置在国会的国家骨干电网扩建特别法等若不一并处理,AI基本法只能沦为半截子政策。庆熙大学大数据应用学系教授李京典表示:“单凭AI基本法意义不大”,“培育AI产业的核心在于吸引民间投资,并借此培育像OpenAI那样的深科技创业企业。”他接着表示:“每周52小时工作制、税额抵扣等能活跃民间投资的整体制度完善更为重要。”因委员长尹锡悦总统遭弹劾提案而失去推进动力的国家AI委员会的重整也是一项课题。

对此,科学技术信息通信部也计划加快后续措施,将包括施行令在内的下位法令的制定工作提前至明年6月完成,早于12月的期限。其下属AI安全研究所计划与欧盟合作,推进互认制度合作,使韩国企业仅凭依据国内法取得的认证即可在当地市场推出AI服务。即让国内企业不必满足被评为全球尤为严格的欧盟AI法,仅满足国内法即可在当地开展业务。金所长表示:“也将与其他国家推进类似合作。”

作为全球首部AI监管法规,欧盟AI法不仅对与AI基本法中高影响AI相似的“高风险AI”进行监管,还把违背人类尊严等、本身禁止使用的“不可接受风险AI”,以及“具有有限风险的AI”“低风险AI”等,按AI风险等级细分加以监管。违反不可接受风险AI相关规定的企业,须缴纳最高相当于全球年营业额7%或3500万欧元(533亿韩元)的罚款。

阅读韩文原文