欧盟(EU)在全球率先制定的综合性人工智能(AI)技术监管法于1日(当地时间)生效。今后在欧盟,具有宗教信仰、性取向等侵犯人权要素的AI服务将被全面禁止。
相当于欧盟行政机构的欧盟委员会当日说明立法宗旨称,"AI法旨在保障在欧盟开发和使用的AI的可信性,包括保护人的基本权利的安全装置"。此前欧盟已于5月最终批准相关法律。
AI监管法根据在特定产品或领域使用AI技术时可能产生的风险程度分为4个等级进行差别化监管。带来负面影响的风险越高,适用的监管越严格。用于医疗、教育、选举、核心基础设施等领域的AI技术被划为高风险等级,必须由人对AI使用进行监督,并须建立风险管理系统。
可能侵犯人的基本权利的AI技术应用被根本性禁止。禁止对象包括利用AI以个人特征、行为相关数据进行个别评分的做法即社会评分(social scoring),以及从互联网或闭路电视(CCTV)随机收集人脸图像建立数据库的行为等。执法机构使用实时远程生物识别系统,除极为例外的情形外亦被禁止。
对包括ChatGPT在内的通用AI(AGI,即具备与人类相当或更高水平智能的AI),则赋予须明示AI学习过程中使用的内容等透明性义务。若提供AI技术相关错误信息,可处以全球年销售额1.5%的罚款;违反义务规定时可处以3%的罚款。若被查出使用被禁止的AI应用,最高可处以7%的罚款。罚款上限为3500万欧元(约516亿2900万韩元)。
以当日生效为起点,原始技术禁止规定自6个月后开始适用,通用AI的义务规定自12个月后开始适用。全面实施为两年后的2026年8月。






