每年3月在美国圣何塞举行的英伟达图形处理器(GPU)开发者大会“GTC”,是展示全球科技产业走向的重要舞台。两年前的GTC上,首席执行官(CEO)黄仁勋将名为“Blackwell”的高性能单一芯片推向台前。
今年3月则不同。黄CEO介绍的不是新的单一芯片,而是由7款不同芯片和5个机架(Rack)组成的庞大系统。由此可以窥见,英伟达正超越单纯的半导体设计(无晶圆厂)企业,将业务结构扩展为整体一揽子(交钥匙)供应人工智能(AI)数据中心基础设施的设计者。
单一芯片架构的局限与异构AI工厂
近期AI产业的核心正从开发模型的“训练”转向实际服务应用的“推理”。ChatGPT问世以来,推理运算所需的token处理量暴增约1万倍。原因在于AI模型已进化到自行调用工具、验证逻辑的智能体(Agentic)时代。仅凭既有的通用GPU单一架构,已难以克服功耗与内存带宽的局限。
黄CEO在主题演讲中断言:“今后全球所有CEO在评估自家业务时,都会把‘每瓦token产量(Tokens per Watt)’作为核心指标。”因为在有限电力下能多快、多经济地生产token,直接关系到企业收益。据此,英伟达推出了将50千万亿次浮点运算(PFLOPS)性能的Rubin GPU、Vera中央处理器(CPU)、Groq3语言处理器(LPU)等共7款芯片按同一目标整合的机架系统。
200亿美元收购Groq与LPU的角色
本次发布中,业界高度关注以200亿美元(约29万亿韩元)收购的Groq的LPU整合。在大型语言模型生成回答的解码(Decode)阶段,既有GPU因内存瓶颈只能闲置,由此产生低效率。
相反,Groq 3 LPU仅搭载500兆字节(MB)的SRAM(静态随机存储器),却能提供每秒150太字节(TB)的宽带宽。这是采用编译器对数据流进行静态调度的确定性(Deterministic)设计的结果。英伟达以Dynamo操作系统(OS)将异质硬件整合,相比上一代Blackwell实现了最高35倍的运算性能提升。
知名半导体分析机构SemiAnalysis首席分析师Dylan Patel对此评价称:“英伟达只是为了调节预期而保守地公布了数字,实际性能跃升将达50倍。”
智能体时代,Vera CPU的崛起
此前一直停留在GPU辅助角色的中央处理器(CPU)比重也在增大。因为在智能体AI环境中,串行处理能力左右着整个系统的瓶颈。自主设计的Vera CPU采用了88个专为智能体控制优化的Olympus核心和最新低功耗移动DRAM(LPDDR5X),能效提升约2倍。
黄CEO表示:“我们没想过会单独销售CPU,但现在正在单独销售极大量的CPU,这已是数十亿美元(Multi-Billion Dollar)规模的业务。”随着Meta等科技巨头开始单独预订Vera CPU,传统服务器CPU市场格局也出现变化迹象。
为最大化电力效率引入CPO技术
AI数据中心扩张的主要制约因素是电力保障。为解决博通CEO陈福阳数年前起就指出的光收发器功耗瓶颈问题,英伟达在Spectrum-6交换机上商用化了共封装光学(CPO)技术。通过将微型光调制器(MRM)直接布置在基板上,每端口功耗从30瓦(W)降至9瓦(W)水平,并设计为可将节省的电力额外用于驱动GPU等运算芯片。
提出1万亿美元营收…乃至太空数据中心构想
商业指标也在具体化。黄仁勋CEO强调:“到2027年底已确保至少1万亿美元以上的营收可见度”,“这1万亿美元仅包含Blackwell和Rubin GPU,完全不包括Groq、存储、网络、Vera CPU等。”
订单量日益增加,黄CEO提出的数字也令人振奋,但仍存在局限,即设备供应。SemiAnalysis指出供应链的结构性局限:“ASML的年极紫外(EUV)设备产量仅为70台左右,按此速度,到2030年全球可获得的AI计算容量将撞上物理上限。”
为缓解与设备短缺同样严重的电力紧张,解决方案也被介绍。即公开了在太空轨道建设数据中心的“Project Space One”构想。这一举措着眼于太空没有大气,太阳能发电效率比地表高6~10倍,且可实现无限的自然冷却。有评价认为,曾专注单一芯片性能竞争的英伟达,正跨越现实制约,跃升为能够提供AI基础设施解决方案的企业。
※“Gap World”是以记者徐宗甲的视角,深挖技术霸权竞争时代海量新闻之间缝隙(Gap)的栏目。尖端技术与半导体议题的核心与展望,请在“Gap World”中确认。欢迎订阅Gap World栏目与记者页面。
任何疑问或建设性的讨论与建议随时欢迎。如通过我的邮箱联系,我将进行后续采访并反映在下一系列中。






