预计今后在美国推出GPT、Claude、Gemini等人工智能(AI)模型,须通过政府机构的验证。原因是被评为史上最强的Anthropic模型“Mythos”引发的震荡不断扩散,唐纳德·特朗普政府正在推动AI事前验证制度。分析认为,出于对Mythos可能被滥用所引发的负面舆论的顾虑,特朗普总统正在推翻其此前推进的AI放松监管政策。
《纽约时报》(NYT)4日(当地时间)引述政府人士称,白宫将组建AI工作组,随后与科技企业高管、各部门负责人启动引入AI监管程序的讨论。《华尔街日报》(WSJ)报道称,该计划可能包含“AI模型标准”,相关内容将通过特朗普总统的行政命令公布。
与强制化讨论并行,与大型科技企业以自律协议形式在AI模型部署前进行事前验证的做法也将推行。美国商务部下属人工智能标准创新中心(CAISI)5日表示,已与谷歌DeepMind、微软、xAI签署协议,将协助政府在AI模型公开前进行评估。CAISI中心主任克里斯·保罗解释称:“这对于理解其对国家安全的影响至关重要。”
2022年OpenAI推出全球首个AI模型ChatGPT后,大型科技企业自由地推出AI模型,近来几乎每两个月就发布一款新模型。其中多数一直向政府提供AI模型,预计不仅推出速度,部署也将受到制约。Axios报道称,国防部(战争部)正在研究强制对向联邦政府和州政府部署的AI模型进行安全性检测的方案。
白宫正在研究效仿全球首个引入AI验证的英国,由政府指定的监管机构进行验证的方式。NYT称,国家安全局(NSA)、白宫国家网络办公室、国家情报总监办公室等被提及为监管机构候选。在前任乔·拜登政府时期设立、在特朗普政府时期存在感微弱的AI标准创新中心也被列为验证机构候选。不过,英国采取法律约束力较弱的企业自愿参与方式,且没有AI标准模型,力度弱于白宫。
AI事前验证制度意味着曾废除拜登政府AI监管的特朗普总统政策已发生转变。特朗普总统曾签署行政命令,取消对可用于军事用途的AI模型进行安全性评估和报告的强制义务,并限制州政府的AI监管权限。去年7月发布AI行动计划时,他强调:“AI就像刚出生的美丽婴儿。必须养育这个婴儿,让它繁荣成长。政治阻止不了它,愚蠢的规则也阻止不了它。”
有分析认为,特朗普总统态度转变在很大程度上受Anthropic上月公开的Mythos影响。Mythos能找出27年来未被发现的漏洞(软件缺陷),在安全领域拥有史上最强性能,但若被用于黑客攻击,可能导致严重的个人信息泄露和系统瘫痪。出于此类担忧,Anthropic仅向部分政府机构和大型银行等有限提供Mythos预览版。预计OpenAI等竞争企业不久也将推出Mythos级模型。
今年中期选举前,AI引发的负面民意扩散也成为决定性契机。因AI需求激增带来数据中心扩张,电力紧张加剧、电费飙升。人们对AI抢走岗位、侵犯隐私乃至加重精神伤害的担忧也在加大。今年3月NBC民调显示,57%的登记选民认为AI的风险大于益处。
在此之前,特朗普政府已借与Anthropic围绕AI军事用途的矛盾,不断增强对AI的掌控力。WSJ报道称,Anthropic曾计划将Mythos预览版提供范围从50家扩大至120家,但遭白宫反对,这意味着政府干预的扩大。
从白宫获知上述方针的OpenAI、Anthropic、谷歌等大型科技企业表示担忧。NYT称,管理层在此前讨论中担心过度监管可能妨碍美国在与中国竞争中的创新。曾在特朗普政府担任AI首席顾问的迪恩·鲍尔评价称,在AI迅猛发展的情况下,把握监管平衡并非易事。






