随着人工智能(AI)技术进化加速,各国为将副作用降至最低的努力持续展开。在对开发速度远超预期的AI系统和通用人工智能(AGI)技术可能威胁人类存续的担忧之下,正式着手制定AI相关监管的国家不断增加。
在21日(当地时间)召开的联合国大会上,成员国一致通过了一项决议,内容为应尽快就AI的安全使用达成国际共识。这是国际社会首次在联合国大会层面正式通过AI相关决议。该决议在国际法上不具约束力。但鉴于成员国一致赞成决议案,预计今后讨论和制定AI相关监管或治理体系的进程将加快。
由美国主导提交的决议案认识到AI开发与使用的推进速度快于预期,并强调就安全、可信的AI系统应具备何种形态等达成全球共识十分紧迫。决议还警告不得以不当或恶意方式设计、开发、部署和使用AI。
在联合国大会之前,欧盟(EU)已在全球率先制定了综合性AI监管法。根据13日在欧洲议会全体会议上通过的《AI法》最终案,欧盟将AI应用领域划分为四个风险等级,实行差别化监管。医疗、教育、公共服务、选举等被划为高风险等级,使用AI技术时必须由人进行监督,并须建立风险管理体系。特别是开发通用人工智能的企业必须遵守欧盟著作权法,并须明确标注AI学习过程中使用的内容。违法时可根据情节轻重处以相当于营业收入1.5%至最高7%的罚款。
此外,七国集团(G7)去年10月就AI系统开发机构应遵守的国际指南及行为规范达成一致。在美国,总统乔·拜登签署了行政命令,规定AI模型若可能带来国家安全或经济、健康风险,开发者须向联邦政府通报。另据报道,日本正在研究出台针对生成式AI开发者的监管。据《产经新闻》报道,日本政府此前一直维持认可企业自主开发AI的方针,但因担忧AI迅速发展带来虚假信息扩散和侵犯人权的可能性,正考虑制定针对AI开发者的具有约束力的监管。






