关注信息技术(IT)市场的读者朋友们,大家好。本周英伟达的年度开发者大会"GTC 2025"成为热门话题。
其中最吸引我注意的,无疑是名为SOCAMM的内存模块。上个月首次向读者介绍过的这一模块真正问世时,我脑中多巴胺瞬间涌动。
今天,我将通过亲赴本周GTC活动现场的Seoul Economic Daily硅谷特派记者尹民赫发回韩国的照片,介绍SOCAMM的实物与现状,并分享与之相关的各种消息。
首先简单介绍一下SOCAMM的概念。SOCAMM是用低功耗DRAM(LPDDR DRAM)制成的内存模块。LPDDR DRAM主要大量用于智能手机、PC和服务器,特点是功耗更低。
迄今为止,LPDDR DRAM的模块形态并不多,因为它多以直接贴装到IT设备上的"板载"方式安装。尤其在笔记本电脑领域,名为LPCAMM的模块开始走红,但在服务器领域大多采用板载方式。这种方式成本高昂,而且当下一代大容量、高效率DRAM出现时,必须把整块板子全部拆下更换,存在"得不偿失"的致命缺陷。
解决这一问题的正是SOCAMM。Small Outline Compression Attached Memory Module。个头小巧却可以插拔的"模块"。这是英伟达独自推进的模块,特点是比目前已开始用于笔记本电脑的LPCAMM尺寸更小。
我在上个月的报道中曾写道,SOCAMM将主要用于英伟达的AI PC。但从本次GTC上各内存厂商的发布来看并非如此,它们完全集中于将其介绍为英伟达AI数据中心服务器专用产品。下面再细看用途。
以英伟达服务器GB200为例。与Blackwell GPU结合的Grace CPU两侧装有16颗LPDDR DRAM。这些DRAM原本以板载方式连接。但从下一代产品GB300开始,将结合4个由4颗LPDDR组成的SOCAMM模块。可以理解为,英伟达出于客户成本削减与效率的考虑选择了SOCAMM。为解决日益沉重的数据规模、芯片成本和功耗问题,进一步提升了低功耗LPDDR DRAM的效用。想要同时抓住速度、面积、能效三只兔子的CEO黄仁勋的欲望,正体现在SOCAMM上。
看看美光在GTC 2025上公开的展示模型就能立刻理解。右侧照片据称是GB300演示产品。在被推测为Grace CPU的方形芯片旁边,整齐排列着四个SOCAMM模块。它比曾作为板载方式替代方案兴起的LPCAMM模块面积更小,而且可以插拔,因此服务器能够使用更长时间。模块的数据传输通道(I/O)数量据悉为694个。也可以分析认为,其速度会优于每颗芯片有64个数据引脚的4颗LPDDR5 DRAM以板载方式结合的情形。
读者们在既有报道中难以看到的另一条消息,是Samsung Electronics公开SOCAMM。Samsung Electronics未就本次参加GTC正式发布新闻稿,但设置了展台。英伟达CEO黄仁勋造访展台,在GDDR7 DRAM上留下"Rocks!"的签名而成为话题。
三星集团这次也展出了SOCAMM,将其介绍为"首款可插拔的基于LPDDR的服务器用内存模块"。
从Samsung Electronics在展台公开的规格看,模块功耗为9.2瓦。值得注意的是,其介绍称能效比通用DRAM即DDR5 DRAM内存模块(DIMM)高出45%以上。还介绍了采用三星集团的LPDDR5X DRAM可进入英伟达GB300供应链的内容。另有"在保持服务器用模块(RDIMM)性能的同时,比LPCAMM2具备更高的空间效率"的说明。
SK海力士在参加GTC的三大内存厂商中最先报道了展出SOCAMM的消息。公司方面通过新闻稿表示:"我们还将一同展出作为新的AI服务器内存标准而备受关注的SOCAMM,展示领先的AI内存技术实力。"由于规格是英伟达制定的标准,各家几乎大同小异。
━ SOCAMM的三个关键词:引线键合·AI PC·美光 下面简要看看SOCAMM的规格以及市场上出现的变化。
首先,SOCAMM虽被称为"第二个HBM",但并不具备与HBM相同的特性。因为是英伟达主导的标准而前景可期,这是共同点,但制造方式不同。首先,它并不像HBM那样采用在各颗芯片上打垂直孔连接的TSV(硅通孔)工艺。
从各家规格看,一个SOCAMM模块的容量为128GB。模块内每颗芯片容量为32GB,即256Gb,因此可视为封装了16颗16Gb LPDDR5X芯片。
如果用TSV打孔连接,费用将极为庞大。据业界了解到的情况,它采用的也是并非TSV的旧式方式"引线键合"。
速度也不及HBM。SOCAMM的带宽为120GB/s。当然,随着信息传输通道数量增加,其速度确实比传统服务器用DRAM提升了约2.5倍。但这只相当于单个HBM3E带宽1.2TB/s的十分之一。与用TSV打出1000个以上垂直孔的HBM相比,速度差距必然很大。
不过SOCAMM的扩展可能性值得关注。英伟达最尖端服务器的销量预计今后还会进一步增加。如果从GB300开始采用4个SOCAMM,那么在Blackwell之后的Rubin、Feynman GPU制成的服务器上采用SOCAMM的可能性也很大。此外,SOCAMM最大的特点就是可插拔。用于维护、修理已装入既有服务器的SOCAMM的备件产品预计也会卖得火爆。
SOCAMM不仅用于英伟达服务器,用于PC的可能性依然很大。英伟达CEO黄仁勋1月在美国拉斯维加斯举行的"CES 2025"上公开了AI PC"Digits"。Digits的下一代产品可能采用SOCAMM。
现在AI服务器市场明显更大。但今后如果英伟达不仅在服务器、也在AI PC市场大获成功,SOCAMM同样能够加入从数据中心延伸到PC(边缘端)的销售大卖行列。它是横跨服务器与PC、宛如大谷翔平那样"二刀流"的标准,这也意味着它可能成为超越仅限于服务器的HBM的更广泛品类。业界预测,黄仁勋CEO将在5月于台湾举行的"Computex 2025"展会上提出有关Digits的具体方向。
最后是关于Samsung Electronics、SK海力士、美光三家之中谁是SOCAMM强者的议题。综合目前的比分,美光的强势更占上风。也有说法称,英伟达正考虑将SOCAMM整体供应量的约50%下给美光,其余由Samsung Electronics和SK海力士平分。
美光的自信也非常强。该公司在20日(当地时间)的今年一季度业绩发布会上自信表示:"我们将成为业界首家量产与英伟达长期紧密合作开发的SOCAMM的企业。"
今后美光能否在SOCAMM市场击败DRAM业界第一的Samsung Electronics和HBM强者SK海力士,率先占据AI市场的又一"热门品类",是值得关注的看点。本周的高端科技就到这里。祝大家与所爱之人共度温暖春日!






