2025-03-27 | 강해령 기자

“第二个HBM”SoCAMM采用引线键合的原因[姜海玲的高端技术]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

关注信息技术(IT)市场的各位读者,大家好。22日的[姜海玲的高端科技]专栏,讨论了被称为第二个HBM的“SOCAMM”。

文章发出后,读者们提出了很多问题。特别是有读者反馈,想了解装载在SOCAMM模块上的一颗LPDDR DRAM芯片内部,各个裸片(Die)是以何种形态结合在一起的。

问题在于,16个裸片是通过“引线键合”连接的,还是使用了在高带宽存储器(HBM)之后成为热门话题的硅通孔(TSV)。我打算来寻找这个问题的答案。下面向大家介绍采访所得的内容。

━ 用于SOCAMM的LPDDR也是用引线键合制造的

先简单概括一下SOCAMM的概念。SOCAMM是用低功耗DRAM(LPDDR DRAM)制成的内存模块。LPDDR DRAM大量用于智能手机和PC。在以功耗为焦点的服务器中也呈现出被采用的趋势。LPDDR中的LP是Low Power的缩写,特点是比一般的DDR DRAM功耗更低。

LPDDR DRAM此前很少有模块形态。因为把芯片直接贴装到IT设备上的“板载”方式是主流,笔记本电脑方面更是如此。最近名为LPCAMM的模块开始走红,但在服务器方面大多仍采用板载方式。

但这种方式成本较高,而且一旦出现下一代高容量、高效率DRAM,就必须把整块板子全部拆下来更换,存在本末倒置的致命缺点。

解决这一问题的正是SOCAMM。Small Outline Compression Attached Memory Module,即体积小巧却可以拆装的模块。这是英伟达独自推进的标准,特点是比LPCAMM尺寸更小,同时信息传输通道数量更多。

据称英伟达从今年下半年量产的AI服务器GB300开始采用该模块。就SOCAMM而言,控制服务器的Grace CPU两侧各贴装模块,共4个。

再来细看模块。一块基板上贴装4颗LPDDR DRAM。每颗LPDDR DRAM内部有16个裸片像公寓一样堆叠。把16Gb DRAM堆叠16层,实现32GB容量的芯片。读者们的疑问正是从这里开始的:存储厂商是用什么方式堆叠这些芯片的呢。

此前据了解,Samsung Electronics(005930)和SK海力士(000660)采用了引线键合这种封装方式来结合LPDDR裸片。

SOCAMM领域的“黑马”美国美光科技也不能不引人关注。美光在上周于美国举行的英伟达年度活动GTC 2025上,还以实物展示了SOCAMM如何与GB300主板结合。据了解,截至目前,在SOCAMM领域与英伟达的合作推进得最为深入。

美光也与韩国企业一样选择了引线键合。最近我通过邮件向美光询问:“竞争对手为结合用于SOCAMM的16层LPDDR DRAM而采用引线键合。美光的现状如何?”公司方面回复称:“虽然国际半导体标准组织(JEDEC)尚未正式确定SOCAMM的标准,但美光同样采用引线键合来连接用于SOCAMM的16层LPDDR DRAM。”

事实上,在LPDDR DRAM行业,裸片堆叠与引线键合并不是新话题。

举例来说,看一下去年8月Samsung Electronics发布的新闻稿。其中提到已量产业界最薄、厚度0.65毫米的LPDDR5X DRAM。该资料介绍,把12纳米级LPDDR DRAM堆叠成4层,未来将以8层结构制成32GB芯片。也就是说,不只是HBM,把单一DRAM堆叠成多层并量产,早在数年前就已多次应用。

当时在堆叠时使用引线键合的可能性很大。引线键合顾名思义就是把布线连接到芯片边缘的工序。在把各个DRAM裸片层层堆叠之后,连接多条类似“高速公路”的线路,让芯片所存储的信息能够向外传输。

随着HBM走红,在单个裸片内部打垂直布线孔进行连接的TSV看上去要时髦得多,但引线键合的经验积累、技术实力和性能同样相当可观。

业界不仅在4层、8层,在存储器高层堆叠封装方面也在引入可用引线键合解决的技术。比如据称,在制造高容量NAND闪存时,堆叠16层并进行引线键合的技术已经开发出来。

甚至Samsung Electronics最近在一场技术学会上还提出构想,要实现把NAND闪存裸片堆叠32层并用引线键合连接的技术。从这一角度看,有分析认为,在DRAM领域把LPDDR以16层进行引线键合虽然实现不易,但终究是可行的技术。

那么还有一个问题。LPDDR,尤其是用于服务器的LPDDR DRAM,数据量看起来会暴增,为什么不引入TSV呢?业界的说法是“何必呢……?”

其实制造LPDDR时若要采用TSV,是可以做到的。正如文章开头所说,LPDDR DRAM的核心是LP,即低功耗。与用引线键合连接布线相比,采用TSV反而可能改善单位数据传输的功耗。由于信息出入口(I/O)与布线之间的长度大幅缩短,每条布线的能效比提高,LPDDR的“低功耗”特性可能变得更好。

尽管如此仍不引入的理由,类似于我们思考“平常去家门口超市,会选择买一辆法拉利超跑吗?”这样的问题。

一旦作出在LPDDR上引入TSV的决策,半导体工程师恐怕会陷入令人发怵的头痛。首先必须大幅改变LPDDR的结构。TSV是在芯片中间打布线孔,裸片尺寸扩大不可避免。工序也必须彻底更新。

从芯片成本角度看也是如此。制造业从业者始终必须考虑制造成本。与TSV相比,引线键合是成熟工序。也有观点认为:它价格便宜、工序难度相对较低、步骤少因而良率好得多,还可以利用既有LPDDR DRAM制造基础设施,性能也不错,何必非要用新东西呢。

此外还有意见认为,英伟达和AI服务器厂商已经在寻找自己所需的存储器并用在合适的位置上,何必要改变LPDDR的封装方式。单看英伟达的服务器吧。在必须进行爆炸式数据运算的Blackwell这类GPU周围配置HBM,在控制整个服务器的Grace CPU周围配置信息处理规格相对不及HBM、但省电性能突出的LPDDR DRAM,从而实现了服务器AI性能的最大化。

当然,等到英伟达把继Grace之后的后续CPU型号“Vera”也商用化时,将需要数据传输能力进一步升级的存储器。但综合考虑CPU的作用和服务器成本等各种问题,主流分析认为,它们今后未必会特意采用“类HBM”式过度规格的TSV LPDDR DRAM。

还有一点,从三星电子和SK海力士最近的资料看,作为LPDDR DRAM的演进方向,它们考虑的不是TSV,而是在引线键合基础上进一步发展的垂直引线键合(VWB)、垂直扇出(VFO)等。这是一种类似“后引线键合”的思路:不触动LPDDR DRAM的根本结构,而是把布线排布得更笔直、更漂亮。由于移动DRAM被原样用于服务器用的SOCAMM,这些工序今后也有可能用于SOCAMM的制造。

随着SOCAMM的出现,出人意料的工序受到关注,这一点非常有趣。既有封装的实力依然强劲,靠“资历”积累出来的技术在业界仍具有巨大影响力,这似乎是重点。只要不把所有堆叠DRAM都当成像HBM那样制造来看待,就能更深入、更有趣地审视SOCAMM这类新兴存储器。今天就到这里。感谢您阅读这篇长文。

阅读韩文原文