2024-07-31 | 이덕연 기자

“AI监管明确,国内服务才能走向海外” [初创企业街]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

在国会研讨会上有人建议,为实现韩国国内人工智能(AI)企业的全球化,应尽快引入AI监管以符合国际标准。其理由是,为使国内AI企业顺利进入已建立监管体系的海外市场,韩国也应制定符合世界标准的法律,使企业从设立之初就开发符合全球监管环境的服务。今年以来,欧盟(EU)和美国等世界主要地区正通过制定AI相关法律或颁布行政命令推进“AI标准制定”。研讨会上还有人主张,应以泛政府层面的扶持政策引领国内AI企业的全球化。

31日,在国会由国际人工智能伦理协会(IAAE)、国民力量党议员宋锡俊办公室、共同民主党议员权七承办公室与Team Cookie共同主办的“AI基本法制定方向与展望”研讨会上,多位发表者强烈主张韩国有必要引入AI监管。

作为演讲者出席的NAVER集团未来AI中心长兼NAVER Cloud Corp. AI创新中心长河正宇表示:“如今AI已超越国家利益层面,是与安全保障直接相关的问题”,“为了国内企业的业务扩张,国会和政府有必要尽快制定AI相关法案”。韩国科学技术情报通信部人工智能政策科科长南哲基也表示:“由于AI监管的不确定性,韩国企业在全球竞争中存在落后的一面”,“有必要制定符合韩国实际情况的AI法”。权议员强调:“即便不够完美,也应在本届国会会期内尽快制定具备体系的法案。”

产业界、政府部门、学界乃至政界都强烈提出AI监管必要性,原因在于全球监管环境正迅速强化。美国总统乔·拜登去年10月签署AI行政命令,使AI监管具体化。虽然并非法律层面的强监管,但要求行政部门下属各部委和机构评估AI的安全性,并强化个人信息保护标准,从而加强了对AI的管控。欧盟今年6月制定AI法,禁止AI企业推断敏感个人信息或诱导人们的危险行为。违反者须缴纳3500万欧元(约522亿韩元)或该企业上一年度全球营业额7%的罚款。

因此,国会和政府今后推进的AI法预计也将按照全球监管标准,朝着事前阻断AI滥用可能性的方向制定。南科长表示,考虑英国、美国、加拿大、日本等的案例,有必要设立“AI安全研究所”,对AI服务的风险进行评估。其中高风险服务由政府监管,中低风险服务交由市场自律监管,从国内起就应引导遵守全球标准。他表示:“设立AI委员会、规定高风险人工智能范围、标示是否使用生成式AI等内容应纳入韩国的AI法。”

不过,研讨会上也有意见认为,应避免过度限制国内企业业务的监管水平。即在营造符合全球标准的监管环境的同时,不应过度提高监管水平而损害国家AI竞争力。河中心长表示:“最近法国正在非洲大陆各地推广其自主AI模型‘Mistral’”,“政府与企业应成为一个团队,确保相关技术并谋求海外拓展”。

阅读韩文原文