美国总统唐纳德·特朗普在空袭伊朗前夕的上月27日,将Anthropic称为激进左派的“woke”(对强推进步价值行为的批评性用语)企业,并宣布美国政府全面停止使用。
然而,在他表示“美国绝不会允许Anthropic左右我们的军队”之后仅半天,28日上午10时45分,美国国防部利用Anthropic的人工智能(AI)工具Claude攻击伊朗的事实被公开。可以说,Anthropic以令这个“霸权国”总统的话显得苍白的方式证明了自身能力。
埃隆·马斯克的xAI和萨姆·奥尔特曼的OpenAI都自荐取代Anthropic,但国防部直到最后剩余的合同期都选择了Anthropic。Anthropic为何在战争执行方面压倒性优于竞争者,并未被清晰揭示。大致内容是,它接入了国防部的核心机密,迄今学习了庞大数据,并在此基础上为实际战场上的攻击决策提供帮助。
Anthropic并非以网络上流传的数据、而是以人写的书进行学习,从一开始就面向开发者、可自行编码,或可与老旧系统联动使用等一般特征,大概也对国防部有所帮助。但在几乎每天都发布新AI更新的竞争者之中,Anthropic或许很快会失去现在的地位。
达里奥·阿莫代伊领导的Anthropic受到关注,不是因为技术,而是因为他所谈的伦理。一位44岁的“区区”民营企业负责人以自身伦理为由,毫不迟疑地反驳白宫的举措,这一幕在美国也是新鲜的冲击。
阿莫代伊在接到国防部停用通知后接受CBS采访时,谨慎但明确地表明了自己的信念。他强调,除美国国内的大众监视与完全自主杀伤性武器这两项之外,99%都可以按国防部的意愿使用。
他提出,当机器人代替人进行攻击的局面到来时如何加以控制,应先经由国会形成社会共识。眼前的战争固然重要,但他指出了机器人误判而杀人的风险,以及一人操控1000万台无人机时所形成的过度权力集中。这番话既给华尔街对Anthropic的狂热浇了冷水,也让AI赞美论者有所反思。
以最快速度开发技术的企业,反而提出要迁就国会的缓慢速度,这也颇为罕见。此前企业们抱怨国会拖后腿,但阿莫代伊正因如此认为,亲眼见到技术飞速发展的企业应当向国会提出问题。不仅是最聪明的开发者和最有权势的掌权者,而是社会全体成员达成共识之后技术才能演进——这种想法令人惊讶。
当然,阿莫代伊的伦理也有漏洞,Anthropic内部也有人站出来举报这一点。在大到难以强调伦理的企业价值和投资者之间,阿莫代伊的原则可能漂流不定。细究他如今连谈判内容都公开披露的种种说法,归根结底也是一种对国防部的谈判技巧。特别是在实际战争爆发的情况下,若敌国利用AI制造自主杀伤性武器该怎么办——这种现实论并不容易反驳。
尽管如此,阿莫代伊的Anthropic仍为一味狂奔的全球AI产业敲响了警钟。更引人注目的是,美国政府依然持续选择了这样的Anthropic。Anthropic公开与美国政府的谈判内容并批评其缺乏法律依据,但美国政府并不在意,出于需要仍与其携手。
这与每逢政权更替、被冷落的企业与受青睐的企业交替、事业随之起伏的我国产业生态大为不同。美国AI产业能够更进一步发展的理由,似乎又多了一条。






