美国政府将强制要求人工智能(AI)开发企业在推出系统及服务前接受当局的安全性评估。这是美国首次就AI设立法律监管机制。
据《华盛顿邮报》等30日(当地时间)报道,美国总统乔·拜登当天发布了包含AI应用具体监管方案的行政命令。据此,企业在推出AI系统前必须接受美国商务部下属国家标准与技术研究院(NIST)的安全性评估。NIST将重点评估系统是否具备抵御网络攻击的能力、是否存在诱发对用户的歧视与偏见的风险等。据悉,该行政命令以OpenAI、微软(MS)、谷歌、英伟达等15家主要企业的自愿协议为基础。
美国商务部计划为防止虚假信息扩散,对AI内容加注水印,使人们能够识别其由哪一系统生成。同时还包含吸引AI人才、加快技术创新的措施:放宽对海外AI人才的签证发放条件并扩大接收规模;为帮助初创企业进入市场,提高AI相关国家数据的可获取性并增加补贴。在医疗、教育等特定领域,将另行制定与AI应用相关的安全指南。根据行政命令的监管与指南将适用于下一代AI模型,而非目前市面上销售的模型。
另一方面,路透社报道称,七国集团(G7)当天也将就AI系统开发企业的国际行为准则达成一致。随着对AI技术风险的担忧加剧,全球范围内的监管动作正在加快。该准则由11个条款构成,包括企业须公开评估AI系统功能与安全性的报告、须投资加强安全性等。路透社称,“这虽不具约束力,但将为企业开发前沿AI系统提供自愿性行为指南”。






