2026-03-29 | 서지혜 기자

“KV缓存”压缩至六分之一……谷歌TurboQuant搅动半导体市场

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

围绕谷歌研究院最近公开的人工智能(AI)内存优化技术“TurboQuant”,全球半导体市场反应敏感。TurboQuant是一种在大语言模型(LLM)推理过程中,将占用巨大内存的“KV缓存”大幅压缩以降低成本的算法,被期待可缓解一直被视为AI服务扩散障碍的内存瓶颈。不过,也有人担忧该技术会减少存储半导体需求,成为打断半导体超级周期的变数,市场因此出现动荡。

谷歌于24日(当地时间)公开了TurboQuant。此次开发中,正在担任谷歌研究院访问研究员的KAIST电气与电子工程学部教授韩仁洙也作为共同研究者参与。由谷歌研究院、DeepMind与纽约大学联合研究团队开发的TurboQuant,作为可解决一直被指为AI模型痼疾性局限的内存过载问题的下一代量化算法而备受关注。

KV缓存是像ChatGPT这样的AI记忆与用户往来对话上下文的存储空间。输入越长,需要存储的信息也越多,因此KV缓存越大,内存使用量就会剧增,推理速度下降。TurboQuant的设计可将这一空间缩减至原有最多六分之一的水平,同时几乎没有性能下降。简单来说,这是一项把AI需要记住的信息压缩得小得多、但需要时又能快速调取使用的技术。据谷歌方面表示,在H100级GPU环境下,运算速度最高可提升8倍。

市场冲击立刻显现。TurboQuant公开后,Samsung Electronics与SK海力士等全球半导体个股出现震荡,SK海力士股价两天内暴跌。这反映出一种解读:如果能大幅减少内存使用量,最终存储半导体需求不也会减少吗。Cloudflare首席执行官(CEO)马修·普林斯在自己的X上评价“这是谷歌的DeepSeek”,也加大了这种冲击。

但学界也有反驳意见认为这种解读过于草率。成均馆大学半导体融合工学系、化学工学部教授权锡俊解释称,“把谷歌的TurboQuant看作改变存储产业游戏规则的技术,而非摧毁内存需求的技术,才是妥当的”。意思是,内存用得更少,意味着能更便宜、更快地运行AI,结果长提示处理、多智能体、多模态分析等高成本服务得以扩散,反而可能产生新的需求。

KAIST也提出了类似解读。即随着半导体需求结构从以大容量为中心转向以高效率为中心,AI将更便宜更快地扩散,内存需求也可能在质上实现高端化。尤其有预测认为,若AI应用范围从智能手机和家电等端侧AI扩展到大规模数据中心,那么越过短期需求放缓,可能打开更大的市场。

此次研究在国内研究人员直接为全球大型科技企业核心AI算法开发作出贡献这一点上也意义重大。韩教授表示,“AI模型性能越强,内存使用量急剧增加是最大的局限,此次研究提出了在缩减该瓶颈的同时保持准确度的新方向”。分析认为,市场的问题最终正接近于“会不会更多地使用变得更便宜的AI”,而不是“会不会更少地使用内存”。

阅读韩文原文