2025-03-19 | 실리콘밸리=윤민혁 특파원

英伟达以搭载HBM4E 1TB的“Rubin Ultra”和“Feynman”巩固AI霸权 [GTC 2025]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

英伟达在Blackwell Ultra、Rubin之后,将于2028年推出“Feynman”人工智能(AI)芯片组。这体现出其以两年为周期不断推出新芯片组并提升高带宽内存(HBM)容量,以延续AI市场霸权的意志。从2027年推出的Rubin Ultra开始,将搭载容量达1TB(太字节)、为现有Blackwell五倍以上的下一代HBM。业界评价称,这为SK海力士与Samsung Electronics等韩国内存产业打开了长期机遇之门。

当地时间18日,英伟达在美国圣何塞SAP中心举办年度最大开发者活动“GTC 2025”,介绍了截至2028年的产品路线图。计划从今年起,每年下半年分别推出Blackwell Ultra、Rubin、Rubin Ultra和Feynman。英伟达首席执行官(CEO)黄仁勋强调:“以AI工厂(数据中心)性能为标准,Blackwell将是H100‘Hopper’的68倍,Rubin将是900倍”,“若按同等性能的价格计算,Blackwell仅为Hopper的13%,Rubin仅为3%。”

英伟达提出的战略是,每两年推出新的芯片组设计(架构),并在新芯片组问世的次年增加HBM容量。这相当于传统半导体行业以两年为周期、一年推出新设计、一年推出改进版的“Tick-Tock”战略,在内存而非制程上得以再现。黄仁勋解释称:“通过提升内存这一简单转换,就能轻松拉升性能。”

今年下半年将出货去年公开的Blackwell的改进版Blackwell Ultra。这是去年在Computex 2024上公开的内容。Blackwell Ultra将原有192GB的HBM3E提升50%至288GB。

去年在GTC 2024上介绍的下一代芯片组Rubin将于2026年下半年问世。其搭载288GB HBM4,实现每秒13TB(太字节)带宽。从Rubin开始,将GPU整合为一个服务器机架的“NVL”平台内GPU数量达到144个,为现有Blackwell的两倍,同一服务器的性能将大幅提升。黄仁勋强调:“Rubin NVL144的性能是Blackwell Ultra NVL72的3.3倍。”

2027年将推出在Rubin基础上搭载1TB HBM4E内存的“Rubin Ultra”。Rubin Ultra目标是实现每台服务器搭载576个GPU的“NVL576”,速度达到今年下半年推出的Blackwell Ultra NVL72的14倍。

Rubin之后,采用新设计的Feynman正在等待亮相。当日黄仁勋仅介绍了Feynman的代号,并未公开具体细节,但据称其将采用HBM4E之后一代的HBM,芯片组内部带宽也将超越目标为每秒3600GB的Rubin。

当日黄仁勋表现出比芯片组自身性能提升更加重视强化连接性与效率的姿态。这是基于如下判断:随着数据中心内GPU占比快速上升,仅改善各GPU之间的通信速度与效率,就能减少当前的低效。

为此,英伟达宣布将与台积电共同于今年下半年推出全球首个实现硅光子技术商用化的“Spectrum-X”。硅光子技术是以光子替代原本由电子承担的计算机之间通信,从而提升传输速度并降低功耗的技术。

英伟达还着手改善AI运算单位——令牌(token)的生成与分配过程中的低效。现有GPU向越多用户提供令牌,总令牌生产速度就越慢。原因在于资源分配过程中运算产生低效。加之推理AI成为主流,运算过程更加复杂,寻找令牌分配的“最优点”变得更为困难。

对此,英伟达公开了推理AI专用软件库“Dynamo”。其决心像被评价为引领英伟达当前成功的CUDA一样,以开源方式开发,强化对AI生态系统的掌控力。黄仁勋表示:“推理AI所需运算量是普通AI的100倍以上”,“应用Dynamo后,在使用100MW电力的数据中心中,Blackwell的最优令牌产量可提升至H100 Hopper的40倍。”

阅读韩文原文