“从没碰过机器的公司,一夜之间就能造芯片?这个嘛,能行吗?”
在美国加利福尼亚州硅谷从事人工智能(AI)芯片开发近10年的一位开发者,在被问及如何看待近期涌入AI芯片市场的企业时给出了严苛评价。他说:“软件和硬件完全不同”,“不懂基础设施的公司,想立刻追上苦心研发芯片10年、20年的公司是不可能的。”
不过他把很早就投身芯片开发的谷歌和亚马逊云服务(AWS)视为例外。他说:“谷歌虽然起步于搜索服务,但已经进行了10多年的芯片开发,如今英伟达也在警惕TPU”,“除了谷歌这种级别,芯片企业大多不太在意。诀窍不容忽视,芯片开发绝不是一件容易的事。”
此前AI基础设施市场由英伟达主导。曾用于提升计算机图形性能的图形处理器(GPU)被发现在AI训练上表现出色,英伟达GPU需求随之激增。结果,英伟达占据了数据中心AI服务器核心基础设施——AI加速器市场的90%。依赖英伟达GPU的软件企业意识到芯片何等重要,并判断要摆脱对英伟达的依附就必须拥有自研芯片。
于是众多软件企业涌入AI芯片市场。亚马逊云服务(AWS)2006年启动云计算服务,2012年投入定制硅片的研发制造。谷歌2015年首次推出张量处理器(TPU),积累了10多年的定制AI芯片开发经验。结果,AWS凭借Inferentia、谷歌凭借TPU在推理芯片领域领先。除了很早就开展基础设施业务的这两家企业,大多数公司直到最近才着手芯片开发。
微软2023年11月公布首款AI芯片“Maia100”,今年1月推出提升了推理能力的“Maia200”。Maia200反映出AI重心从大语言模型(LLM)转向自主判断的AI智能体(助理)、推理性能变得重要的形势。
微软为对抗英伟达GPU、追赶谷歌TPU,正积极扩大芯片布局。The Information于8月10日(当地时间)报道称,微软为吸引大型云客户,已设定明年大幅提高下一代AI芯片“Maia300”产量的目标,并正与中国台湾代工企业(半导体受托生产企业)台积电进行谈判。
消息称,微软最早将于本月公布Maia300,并正就明年获得30万颗以上供应展开谈判。考虑到Maia200产量为数万颗,这是大幅增加的数字。摩根士丹利预计,谷歌今年将生产300万颗以上TPU,明年将生产500万颗。微软首席执行官(CEO)萨提亚·纳德拉在2022年通过法院提交材料公开的邮件中曾强调自研芯片的必要性:“我们只是英伟达之上薄薄的一层,所有知识产权都归OpenAI所有。”
Facebook运营商Meta今年3月公布了“Meta训练与推理加速器(MTIA)”产品系列MTIA 300、400、450、500共4款,并宣布今后将以6个月为周期推出新型芯片。MTIA是Meta为驱动数据中心而在内部开发的定制芯片(ASIC)。Meta工程负责副总裁宋(Jiwoon Song)在3月发布时解释称:“每6个月推出一款新芯片,这个周期快得非常罕见”,“因为我们正在极快地扩张产能并对资本支出进行巨额投资,所以希望做好准备,随时都能用上最尖端的芯片。”
Anthropic和OpenAI也与超大规模云服务商(大规模计算基础设施运营企业)一同加入自研芯片竞争。这两家企业分别租用搭载英伟达图形处理器(GPU)以及亚马逊、谷歌芯片的数据中心,开发出AI模型“Claude”和“GPT”,如今正准备实现芯片独立。
路透社4月援引消息人士报道称,Anthropic正在考虑开发自研芯片。The Information在7月报道称,Anthropic已启动自研AI芯片的早期阶段工作,并正与潜在制造伙伴Samsung Electronics代工(半导体受托生产)进行协商。
去年10月宣布与博通合作开发定制芯片的OpenAI,在7月公布了首款自研推理专用芯片“Jalapeño”。预计OpenAI正在建设的数据中心将搭载按照OpenAI构想设计的这款芯片。
后发者的软肋在于硬件,即缺乏动手做机器的经验。开发Windows操作系统(OS)的微软、运营Facebook和Instagram等社交媒体(SNS)的Meta、打造AI模型的Anthropic和OpenAI都是软件企业。微软虽然通过数据中心运营“Azure”云服务,但对英伟达、AMD等的GPU依赖度很高。
英伟达、AMD等AI芯片领先者通过收拢初创企业来巩固以自身为中心的生态,并试图阻断后发者的挑战。英伟达去年底以创立以来最大规模的200亿美元(28.3万亿韩元)迂回收购了Groq。英伟达的对手AMD也在上月决定收购AI推理半导体企业、加拿大初创公司Talas。
“从没碰过机器的企业”自己也很清楚弱点。全球最大半导体知识产权(IP)企业Arm今年3月在公司成立35年后首次推出自研芯片“Arm AGI CPU”,并在上月的半导体学术会议“Hot Chips”上公开了主要规格。这家过去只绘制设计蓝图的企业,打破了不与客户竞争的传统,向数据中心服务器芯片制造商发出了挑战。
Arm首席财务官(CFO)杰森·查尔德上月在接受The Information采访时表示:“供应硅片显然比获取设计授权更复杂”,称供应芯片绝非轻松的挑战。即便在智能手机大脑——应用处理器(AP)架构(规定芯片运行方式的准则)市场占有90%以上份额,实际设计半导体也是另一个层面的生意。他补充说:“因为是第一次造芯片,(由半导体代工企业分配的)产能会相当小,提高产量可能需要几年时间。确保内存供应也需要几年。”
尽管由于芯片开发经验不足以及英伟达、AMD的阻击,这是一场艰难的挑战,但也有评价认为,若结成联合阵线,这可能成为歌利亚与大卫之战。因为有博通、迈威尔这样帮助进行芯片设计的企业。博通和迈威尔按照客户“帮我们实现与自家AI模型完全契合的芯片”的要求承担芯片设计,统筹硅片制造、电源与散热管理、内存衔接,乃至最终的代工量产准备。自去年起,AI市场从以训练为中心转向重视推理的智能体AI,专攻推理的定制芯片(ASIC)需求激增,设计ASIC的博通和迈威尔收到大量“求爱信号”。韩国某AI初创企业的一位代表解释称:“以英伟达为中心的格局被打破,原因之一就是博通把平台做得太好了”,“博通做得太出色,以至于性能几乎没有差别的芯片都能同样做出来。”






