2026-08-19 | 이석진 기자

连接NAND使DRAM用量降至十六分之一……SK海力士改变AI芯片范式

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

SK海力士实证的“混合内存”,是为解决生成式人工智能(AI)向可执行长对话和复杂任务的AI智能体演进过程中数据存储量激增问题的技术。

能自主检索、分析资料、编写代码的AI智能体需要学习和推理海量数据。在作业过程中,数十至数百次的对话与运算接连进行,AI需要记住的数据也迅速增加。

问题在于“键值(KV)缓存”——即为避免AI对已计算结果重复运算而存储的作业用数据。随着AI智能体服务的扩散,KV缓存规模急剧膨胀,企业的苦恼也随之加深。业界预计,KV缓存需求明年最高将达100EB(艾字节,10亿GB),后年翻倍至200EB,到2030年将扩大至1ZB(泽字节,1万亿GB)。

SK海力士(000660)判断,若仅靠不断扩大高价的高带宽内存(HBM)和服务器用DRAM来处理这类数据,将难以维持AI生态。

HBM和DRAM能提供高速度,但在容量扩展上存在物理极限。搭载于图形处理器(GPU)的HBM受垂直堆叠结构限制,可安装在中央处理器(CPU)周边的通用DRAM数量也有限。AI需要记住的数据增长越快,仅靠高价DRAM扩充存储空间的方式,成本负担必然越重。

尤其当AI智能体服务全面扩散后,内存扩容成本将进一步上升。这正是大型科技公司着手开发“内存瘦身”技术的背景。谷歌开发了通过压缩KV缓存来降低内存占用的“TurboQuant”,微软也在研究对重要性较低的记忆数据进行压缩存储的方式。英伟达则选择了将记忆空间扩展到GPU外部的方向。

相比之下,SK海力士通过混合内存提出的解法并非数据压缩,而是改变AI加速器的内存结构本身,即把基于大容量NAND闪存的固态硬盘(SSD)不作为单纯存储设备,而是当作AI用内存来使用。

混合内存在DRAM中只存放即将立刻使用的KV缓存,其余数据存放在SSD中。DRAM承担作业空间、NAND承担大规模记忆空间的角色分工。NAND相对较慢的速度,则通过预测SSD中数据何时需要并提前调入DRAM的“预取”技术加以弥补。

此外,SK海力士为将DRAM与NAND结合的混合内存扩展为大容量内存空间,采用了“计算快速链接(CXL)”。CXL是将服务器与外部内存高速连接的规格。它不必在每台服务器上直接搭载大规模DRAM,而是把大容量内存资源置于外部,在需要时加以利用。由此,混合内存可在保持DRAM高速处理能力的同时,利用NAND大幅扩大整体内存容量。

SK海力士还通过实证确认了成本与性能之间的平衡点。在投入相同DRAM预算的情况下,混合内存(HyMCache)相比既有模型(LMCache),单台AI服务器的数据处理能力最高提升3倍。在服务器角色分离的环境下,也实现了1.45倍的性能提升。

另外,与使用1TB规模分布式DRAM的系统相比,混合内存性能低约30%,但DRAM用量仅为其十六分之一。这意味着以相同的DRAM成本可将数据处理能力提高3倍,或在实现同等性能的同时大幅减少内存用量。

预计混合内存最快将于明年实现商用化。业界认为,相关产品将配合英伟达明年下半年推出的下一代GPU“Rubin Ultra”平台进入市场。

技术基础也在逐步就位。SK海力士本月初在美国加利福尼亚举行的“内存与存储的未来(FMS)2026”上,公开演示了在CXL内存模块(CMM)中结合DRAM与SSD的“CMM-混合”解决方案。为迎接混合内存商用化,SK海力士近期还对韩国清州和中国大连的NAND生产线扩产投资。

一位业界人士表示:“今后AI内存的竞争力不仅取决于能否做出最快的内存,还将取决于高效配置DRAM与NAND、同时确保成本与容量的技术。”

阅读韩文原文