SK海力士(000660)20日表示,将量产搭载于英伟达最新人工智能(AI)加速器“Vera Rubin”的AI内存模组SOCAMM2 192GB产品。
该产品是业界首个针对英伟达下一代加速器Vera Rubin进行优化设计的产品。SK海力士期待通过SOCAMM2减少超大规模AI模型在训练和推理过程中出现的内存瓶颈现象,提升系统处理速度。
SOCAMM2是将主要用于智能手机的LPDDR按服务器环境改造而成的AI专用内存模组。既有LPDDR以直接焊接在主板上的方式使用,而SOCAMM2采用压接式连接器的模组形态,便于拆装和更换。应用于服务器时,可在保持高性能的同时降低功耗。
此次192GB产品采用了10纳米(㎚,十亿分之一米)级第六代DRAM(1c)工艺。据SK海力士介绍,与既有服务器用内存模组RDIMM相比,带宽扩大2倍以上,能效改善75%以上。据此可缓解超大规模AI模型运行过程中的内存瓶颈,提升系统整体处理性能。
近来在AI数据中心,对填补提供超高带宽的高带宽内存(HBM)与以大容量为中心的DDR5 RDIMM之间性能与能效差距的新内存层级需求不断增加。SOCAMM2结合了LPDDR的低功耗特性与模组的维护便利性,正与高带宽内存(HBM)、DDR5、计算快速链接(CXL)一同崛起为AI基础设施的核心支柱。
特别是随着AI市场从以训练为中心转向以推理为中心,能以低功耗运行大语言模型(LLM)的内存解决方案的重要性进一步提升。预计SOCAMM2将在同等电力条件下提升可处理的AI运算量,为数据中心总拥有成本(TCO)的削减作出贡献。
SK海力士表示,已配合全球云服务提供商(CSP)需求提前稳定量产体系。特别是将在HBM领域确立的技术领导力扩展至SOCAMM2,构建涵盖从AI训练到推理全区间的“全栈”内存解决方案体系。
SK海力士AI基础设施(Infra)社长金周宣表示:“通过供应SOCAMM2 192GB产品,树立了AI内存性能的新标准”,“将在与全球AI客户紧密合作的基础上,确立为最受信赖的AI内存解决方案企业。”






