美国代表性科技巨头谷歌与引发“Kimi K3冲击”的中国人工智能(AI)创业公司月之暗面(Moonshot AI)先后推出削减运算量的效率化战略。运算量减少通常也会使内存需求下降,但也有预测认为,谷歌面向AI模型的专用芯片生产与月之暗面的“巨量参数”战略反而可能成为内存需求扩大的机会。这意味着AI技术开发带来新需求,韩国高带宽内存(HBM)业界可能迎来暖风。
20日(当地时间)美国信息技术(IT)专业媒体The Information援引消息人士报道称,谷歌正在开发内部代号为“Frozen v2”的新AI芯片。Frozen v2与谷歌为降低对英伟达图形处理器(GPU)依赖度而自主开发的定制芯片张量处理器(TPU)分开开发,目标是在2028年部署到数据中心服务器。当天消息传出后,Alphabet股价上涨1.51%收盘。
TPU是谷歌通过云(通过互联网连接的大规模虚拟存储空间)租赁供客户使用的通用芯片。相反,Frozen v2是在芯片本身搭载Gemini的数据处理方式和权重等主要信息,从而最大化Gemini运行能力的专用芯片。它利用了此前由谷歌首席科学家杰夫·迪恩推动的Frozen初期版本的构想。
谷歌期待用Frozen v2运行Gemini时,每单位电力的令牌处理量比TPU增加6至10倍,响应速度也会更快。原因是把每次运行都要重复的运算步骤(架构)固定(硬编码)在芯片本身。不过据悉,谷歌尚未决定在该芯片中放入多少信息,也并未考虑大规模量产。
有分析认为,谷歌开发Gemini专用芯片的背景,是为缓解运算资源不足局面的战略。谷歌虽为三大云企业之一,近期仍与SpaceX签订每月支付9.2亿美元(约1万3566亿韩元)租用数据中心的合同。甚至有报道称,由于内部开发用运算资源也出现短缺,谷歌限制了大客户Meta的计算使用量。
谷歌扩展AI芯片产品线可能成为Samsung Electronics(005930)的利好。The Information今年6月报道称,随着台积电产能饱和,谷歌正在讨论把第10代TPU核心部件生产交给Samsung Electronics代工(半导体委托生产)事业部的方案。本月初还报道称,Anthropic正与Samsung Electronics就AI芯片生产进行协商。强调定制芯片战略的SK海力士也存在可能性。The Information称,谷歌可能让外部设计和制造伙伴参与该项目。
彭博社报道称,Kimi K3同样以运算效率为优势,但深入来看,预计将带来“内存需求增加”。
Kimi K3参数量达2万8000亿个,是中国推出的模型中规模最大的。而表示计算(运算处理)效率的指标“稀疏比率(sparsity ratio)”则处于史上最高水平。Kimi把庞大的模型拆分为多个小型神经网络(模块)并各自专门化,设计为只使用所需部分。如果说谷歌的Frozen v2通过固定提问提升效率,那么Kimi则是每次以不同组合减少令牌使用。不过,要运行Kimi的这一模型,2万8000亿个参数本身必须全部存入内存。
彭博社分析称,即使以低精度数据格式压缩模型,也需要1.4太字节的内存。在现有对比对象中,这意味着需要英伟达“Blackwell GB300”系统规模的AI机架系统。这正是有预测认为Kimi的出现可能带来SK海力士和Samsung Electronics需求的原因。特别是中国当局的立场是要管控本国AI企业不把生产交给美国代工厂,这对韩国企业可能更为有利。






