美国参议院正在讨论一项法案,拟允许联邦政府直接阻止具有风险的先进人工智能(AI)模型发布,以防范核武器、生物武器开发等重大风险。
据路透社11日(当地时间)报道,美国参议院谈判小组正在就赋予先进AI开发商所谓“注意义务”(duty of care)的方案进行协商。其意在要求企业从AI产品设计阶段起就承担事先防范“灾难性风险”的法律责任。
讨论中的法案包含美国联邦政府可禁止发布其认定为不安全的AI模型的权限。不过,对政府禁令不服的企业可向联邦法院提出异议以获得司法裁决,相关救济程序也将一并设立。
监管对象预计将是OpenAI、Anthropic、谷歌等主要科技巨头正在开发的最尖端AI模型。
参议院谈判小组把恶意用户滥用AI设计核武器或生物武器等情形列为典型的“灾难性风险”。据此,还在研究由美国国家实验室专家直接测试与验证最尖端AI是否具备支持精密网络攻击或大规模杀伤性武器(WMD)开发能力的方案。
参与跨党派谈判的包括共和党参议院多数党领袖约翰·图恩、商务委员会主席特德·克鲁兹,以及民主党参议员艾米·克洛布彻等。
克洛布彻表示,“为确认AI模型的安全性,法案将包含要求开发商与政府专家合作对模型进行验证和测试的内容。”克鲁兹也说明,正在准备应对生物、核威胁等灾难性风险的法案。
不过,法案能否在今年11月中期选举之前通过尚不明朗。中期选举前可进行表决的剩余会期,参议院仅剩3周、众议院仅剩1周,时间十分紧迫。






