2025-08-26 | 실리콘밸리=윤민혁 특파원

谷歌以27亿美元重新招回的“AI天才”:“必须解决内存瓶颈”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

"面向大语言模型(LLM)的硬件除了算力,还必须具备充足的内存容量与带宽。由于瓶颈严重,各个层级中内存的重要性正进一步提升。要实现更快的推理,就必须具备高带宽内存(HBM)以及能够分散部署人工智能(AI)模型的互联能力。"

谷歌Gemini AI项目联合负责人诺姆·沙泽尔25日(当地时间)作为在美国斯坦福大学举行的"Hot Chips 2025"主题演讲人登台,强调称"AI的速度取决于能多快地遍历参数,但现代半导体的运算速度快于内存","若想实现快速推理,整个芯片组的内存带宽就变得至关重要"。

沙泽尔是开启生成式AI时代的谷歌大脑论文《Attention Is All You Need》的共同作者之一。他还与荣获诺贝尔物理学奖的"深度学习之父"、多伦多大学教授杰弗里·辛顿共同研究,开发出OpenAI、DeepSeek等广泛采用的专家混合(MoE)方式。此后沙泽尔创办了Character AI,但去年谷歌以高达27亿美元的巨额收购该公司,他也因此回归"老家"。这可以说开启了近期由Meta带火的"acqui-hire(收购与雇佣的合成词)"热潮。

沙泽尔认为,阻碍AI发展的并非算法而是硬件。他回顾7年前曾主张算力、数据等"越大越好"的演讲,指出限制数据与参数扩展的内存瓶颈是AI发展的障碍。

这源于作为计算机标准长达80余年的冯·诺依曼架构所固有的根本局限。冯·诺依曼架构将运算装置、内存、程序区分开来,使一套硬件可以运行各种软件。但由于各部分相互分离,在通过相对较慢的内存读取程序的过程中会产生瓶颈现象。随着AI时代开启,需要读取的数据急剧增大,瓶颈问题因而更加突出。

内存的重要性在主题演讲之前IBM的发布中也得到了强调。IBM在今年7月公开的Power11中央处理器(CPU)中整合了AI加速器,同时设置了一种"内存水坝",使每核心的内存容量与带宽提升4倍,即便使用普通DDR5 D RAM也能获得媲美HBM的速度。结果,尽管采用了与上一代相同的Samsung Electronics(005930)7纳米工艺,性能仍提升了45%。IBM Power处理器设计总负责人比尔·斯塔克强调:"进入AI时代,传统的冯·诺依曼瓶颈愈发明显","提高运行频率、增加核心数量的时代已经过去,加速与内存的时代正在到来。"

阅读韩文原文