张量处理单元(TPU)诞生于谷歌管理层的危机感。2013年,在AI模型研究上加速推进的谷歌判断,仅靠现有中央处理器(CPU)和图形处理器(GPU)无法应对日后AI服务的普及,于是着手自研AI芯片。
Ironwood单颗芯片的算力达到4614TFLOPS(万亿次浮点运算,即每秒1万亿次浮点运算)。虽不及英伟达最新GPU Blackwell(最高约2万TFLOPS),但略高于上一代H200(3958 TFLOPS)。内存方面据看似搭载了8颗第五代高带宽内存(HBM3E),容量为192GB,是上一代32GB的6倍。
单颗芯片算力仍以英伟达占优,但业界普遍认为,由于TPU从诞生之初就是为AI运算而设计,在每瓦性能方面超过英伟达。英伟达的基础架构起源于图形处理,而TPU如其名所示,是为深度学习训练和推理过程中反复出现的矩阵(张量)运算而开发的。由于去除了用于图形处理或通用运算的不必要电路,能效更高。价格方面,谷歌TPU也比GPU便宜。据悉TPU的价格约为英伟达AI用GPU的一半。
互联是英伟达的最大优势,但谷歌TPU同样专注于扩大芯片间的连接性。连接的芯片越多,越有利于训练大规模AI模型。英伟达能够甩开AMD等对手,背后也在于通过NVLink和InfiniBand实现的高连接性。
Ironwood通过芯片间互联,最多可让9216颗TPU如同一体般运作。9216颗Ironwood连接后,运算速度最高可提升至42.5EFLOPS(百亿亿次浮点运算,即每秒100京次浮点运算)。谷歌正与美国无晶圆厂企业博通合作,全力推进技术升级,力图在芯片间通信领域超越英伟达。






