无需驾驶员介入即可自主运行的完全自动驾驶技术,被指定为向韩国国内人工智能(AI)企业追究事故责任的重点监管对象。政府计划将其纳入其中,细化能源、教育、医疗等AI影响力较大的10个领域的监管标准,着手确保产业培育所需的技术安全性。
韩国科学技术情报通信部17日在首尔中区尚然斋别馆举行《关于AI发展与信任基础建设等的基本法》(AI基本法)下位法令制定方向说明会,公开了包括《高影响AI判断指南》在内的AI基本法下位法令草案。科学技术信息通信部正在为明年1月AI基本法施行做下位法令准备。其中,首次公开了业界高度关注、在法律上被赋予安全性管理义务和罚款责任等的监管对象——高影响AI判断指南。
首先,自动驾驶汽车中,驾驶员需介入的现有技术水平即第3级不属于此列,但今后将普及的第4级起将被视为高影响AI。在教育现场,如果基础学力诊断测试、学生综合记录簿撰写等评价相关工作没有教师介入,即构成高影响AI。应用于人工心肺装置或人工血管等对患者影响较大的《医疗器械法》4级器械的AI,以及应用于核电事故预防必备的核能“安全等级”设施的AI,同样如此。
包括上述情形在内,能源、饮用水、保健医疗、医疗器械、核能、犯罪侦查与逮捕、招聘与贷款审查、交通、公共服务、教育等可能对生命或基本权造成危险的10个领域的AI开发商或使用企业,须依据指南事先确认自身技术是否属于高影响AI,并制定包含事故预防与应对、用户保护对策等内容的风险管理方案。违反时将面临最高3000万韩元罚款及整改措施等制裁。
与此不同,安全性尚未完全得到确认的全球最新AI模型即前沿模型,将作为“高性能AI”受到更严格的监管。相关企业须组建由技术以及人权、个人信息保护、伦理、网络安全等多学科专业人员构成的风险评估组织(RAT),评估自身技术的严重性、重大性、可实现性、频率及可管理性,并每年向科学技术信息通信部报告管理对策。此外,因微调等AI模型变更导致风险增加时须在一个月内、发生事故时须在一周内另行报告。不过,目前韩国国产模型大多不属于高性能AI,因此预计这将成为对GPT等全球大型科技企业模型的监管。
年销售额1万亿韩元以上的海外企业还将产生指定境内代理人的义务。深度伪造等AI生成物须加注水印。国防与安保用AI免于AI基本法监管。为使企业能够应对监管,将设置一年以上的罚款劝导期。科学技术信息通信部AI基础政策官金庚万表示:“尽可能采用宽松的监管体系,重点放在产业振兴上”,“计划通过征求意见,于明年1月施行该法。”
一位业界人士表示:“对于希望以新创意开展业务的风险企业和初创公司而言,监管尤为敏感”,“实际现场可能存在意想不到的毒丸条款,因此需要充分审议。”






