谷歌与半导体设计企业迈威尔科技启动人工智能(AI)推理芯片开发。英伟达试图以语言处理单元(LPU)在通用图形处理器(GPU)之后进一步掌控推理芯片市场,谷歌随即迅速反击。迈威尔曾是英伟达推理武器“Groq”的合作伙伴,谷歌相当于把竞争对手的盟友拉了过来。
The Information于19日(当地时间)援引消息人士报道称,谷歌正与迈威尔商讨开发两款新型AI芯片。
两款芯片之一是与谷歌现有自研AI芯片张量处理单元(TPU)联动设计的内存处理单元(MPU),另一款是新的推理用TPU。
迈威尔的MPU不仅仅存储数据,还直接处理部分运算。现有方式下数据在TPU与内存之间往返,消耗电力并产生延迟,而迈威尔MPU缩短了这一路径。消息人士称,谷歌与迈威尔计划在明年之前完成设计并进入试产,拟生产约200万个MPU。
另一款新TPU是承接谷歌主力产品第7代TPU“Ironwood”的AI芯片。TPU最初只用于简单推理,而Ironwood已发展为可同时处理训练与推理的通用高性能芯片。新TPU是高度专注推理的芯片,成本更低、能效更高。去年AI市场转向以推理为中心后,谷歌开始把原本内部使用的TPU出售给竞争对手。
谷歌自2018年起推出数据中心用TPU,持续威胁英伟达GPU。GPU在AI训练方面有优势,但在讲求速度的推理方面较弱。谷歌以此为突破口,与Meta签订数十亿美元规模的TPU租赁合同,形成与英伟达对抗的格局。
但上月英伟达LPU公开后,谷歌也感到紧张。英伟达去年底迂回收购推理芯片开发商Groq后推出“Groq 3 LPU”,展现雄心。The Information援引谷歌员工评价称:“谷歌在英伟达公开LPU后加快了新推理芯片的开发速度”,“迈威尔在第一代LPU开发时是Groq的合作伙伴,因此也具备推理芯片设计经验。”






