2026-03-27 | 김여진 AX콘텐츠랩 기자

谷歌一篇论文令三星与海力士“重挫”…“少用内存?”“TurboQuant”的挑战 vs 买入机会?

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

谷歌的一篇人工智能(AI)论文冲击了全球半导体市场。由于被解读为“可以少用内存”,Samsung Electronics和SK海力士股价大幅震荡。

谷歌发布“TurboQuant”……韩国半导体股遭直接冲击

25日(当地时间),谷歌研究院公开了AI内存效率化技术“TurboQuant”论文。

市场立即作出反应。26日在韩国交易所,Samsung Electronics较前一交易日下跌约4%以上,SK海力士暴跌6%左右。27日,Samsung Electronics下跌400韩元(-0.22%),收于17.97万韩元;SK海力士下跌1.1万韩元(-1.18%),收于92.2万韩元。

对此,韩国投资证券研究员蔡敏淑当日通过报告表示:“这是混淆了内存容量(Capacity)与内存带宽(Bandwidth)的作用而产生的解读错误。”

因为AI(人工智能)推理的瓶颈并非内存容量不足,而是由内存访问速度和数据移动效率决定的。

她还表示:“TurboQuant应被理解为在一定程度上缓解这一瓶颈、提高GPU效率,从而使相同的GPU资源能处理更多token的技术。”她解释,TurboQuant将KV缓存(KV Cache,中间运算值临时存储)最多压缩6倍,与其说是减少所需内存容量本身,不如说是大幅降低KV缓存所占的数据规模及由此带来的内存访问负担。

名字也很难……TurboQuant,你是谁?

TurboQuant的核心并非单纯减少内存的技术。一言以蔽之,它是“数据压缩技术”。

限制AI性能的瓶颈现象的主因不是“内存容量”,而是“内存带宽和访问速度”。AI将数据存储在名为“KV缓存(Key-Value Cache)”的空间中,以记住对话或上下文。问题在于,这些数据越积累,内存使用量就呈爆发式增长。

通俗地说,数据可看作汽车,内存带宽可看作隧道。过去,汽车(数据)越多,就必须不断拓宽隧道(带宽),因此HBM需求爆发式增长。

但实际问题不在于隧道的大小,而在于“车通过的速度有多快(读取内存的速度)”。GPU运算速度非常快,但如果从内存调取数据的速度跟不上,运算单元就会进入等待状态。据业界研究,AI运算过程中相当一部分被这一“等待时间”消耗,从而出现数据处理积压的“瓶颈现象”。

TurboQuant以另一种方式解决这一瓶颈。它将AI使用的“KV缓存”数据压缩最多6倍后存储。与其说是减少内存容量本身,不如说是减少需要从内存中读取的数据量本身。

通过简化数据结构并将信息损失降至最低的方式进行压缩,GPU等待数据的时间减少,从而可以用相同的GPU资源处理更多运算。

外媒 vs 证券界……“是危机,还是机会”

外媒迅速指出了该技术的影响力。

美国IT媒体VentureBeat评价称“这是仅凭软件优化就能改变数据中心成本结构的技术”,IT媒体TechCrunch也分析称“将KV缓存最多减少6倍,可降低AI运营成本”。不过也同时指出“该技术仍处于初期阶段”。

投资界也分析认为,技术意义重大,但在适用范围和验证水平上存在局限。

韩国投资证券研究员蔡敏淑解读称:“很难认为效率改善技术的出现会导致内存需求减少”,“GPU的实际利用率提高,单位时间可处理的token数量(throughput)增加,从而降低每token的成本。”

她还表示:“实验对象也主要是参数规模80亿左右的较小模型,在实际产业中使用的数百亿参数级大型模型上能否再现同样效果,尚未得到验证。”

全球投资银行摩根士丹利也评价称:“这项技术不是减少内存总需求,而将成为扩大AI市场本身的催化剂”,“反而可以视为买入机会。”

阅读韩文原文