2024-03-09 | 강해령 기자

Samsung Electronics磨刀霍霍准备的三大存储新武器 [姜海铃的高端科技] <第1篇>

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

关注信息技术(IT)市场的各位读者,大家好。随着人工智能(AI)时代的到来,半导体的形态与性能也在发生多样变化。DRAM的结构也在朝各种方向演变,代表性产品就是HBM。

不过今天,除了此前已被大量讨论的HBM之外,我们还想看看那些设计独特的半导体装置。我们将具体了解Samsung Electronics在全球半导体设计学会"ISSCC 2024"上展示的按DRAM层级划分的新产品,并探究三星集团的技术路径。本系列特别挑选的装置是:△LLW △GDDR △HBM-PIM。首先来看LLW概念。

■LLW:应对AR时代的新武器

LLW DRAM,是Low Latency Wide I/O的缩写。看似复杂,拆开来其实很简单。一句话概括这种DRAM:面向端侧AI设备的小容量高带宽存储器(HBM)。

各位读者对HBM的作用再熟悉不过了。它是紧贴服务器等高性能计算设备(HPC)用运算芯片、把运算速度最大化的DRAM。与通用的DDR DRAM模块相比,搭载位置更近,在数据传输速度(带宽)方面优势巨大,因而作为超大规模数据运算装置备受瞩目。

然而AI正走出服务器,越来越多地在我们的手掌上实现。我们随身携带的笔记本电脑、智能手机,以及近来走红的增强现实(AR)、虚拟现实(VR)头显或智能眼镜等,也都需要运算激增的数据来呈现AI。于是问题出现了:主要搭载于电子设备的LPDDR DRAM模块,无法实现我们期望的AI运算速度。

因此出现的概念便是LLW DRAM。其特点是把信息出入口(I/O)数量比现有LPDDR DRAM大幅增加,从而拓宽数据通道。这种DRAM的位置紧贴AI半导体或处理图形的芯片,在近距离辅助运算。

不过这个概念是不是听起来相当熟悉?没错。已经有类似形态的DRAM实现商用化的案例,就是搭载于苹果AR头显"Vision Pro"的SK海力士定制DRAM。它被搭载在Vision Pro内负责接收并运算各类外部信息的"R1"芯片旁边,特点是I/O数量比现有LPDDR DRAM多出足足8倍,达到512个。

从Samsung Electronics的资料看,LLW DRAM的思路与SK海力士的定制DRAM相当接近。推测其与在HBM上所做的一样,利用硅通孔(TSV)来制作I/O。

它实现了与SK海力士定制DRAM相同的I/O数量,带宽达到每秒128吉字节(GB),比LPDDR5 DRAM高出2.5倍。由此数据延迟(latency)仅为LPDDR DRAM的一半左右,迅速解决了瓶颈现象。功耗效率也很好。据称LPDDR芯片每比特耗电约3皮焦(pJ),而LLW DRAM在同等条件下降低了70%,实现每比特1pJ。今后Samsung Electronics会向哪些客户供应LLW DRAM,也将是DRAM市场的一大看点。

■GDDR7:I'm Still Alive

接下来是GDDR。顾名思义,就是图形用DDR规格的DRAM。有一段时间,在HBM的强势之下,GDDR似乎显得黯然失色。这是在GPU被重用的AI市场里,带宽和容量成为"生命线",于是出现了"GPU旁边贴HBM比GDDR更高效"的说法与评价之后的事。

但GDDR依然活着,用途也很多。在超大规模之外、更偏低端(low-end)的AI市场,仍有余地用便宜的GDDR替代HBM。游戏机、VR设备也将不断进化,因此GDDR的性能与市场水平预计同样会升级。全球GDDR市场营收预计将从2018年的32亿美元规模增长到2030年的48亿美元。

近来,全球半导体标准机构国际半导体标准协议组织(JEDEC)也正式确定了下一代GDDR7 DRAM标准,引发关注。其中最受瞩目的是,将每个I/O的最高速度规定为每秒48Gb,并首次采用PAM3信号方式。

Samsung Electronics对GDDR7 DRAM充满信心。去年7月,该公司全球首次开发出每个出入口32Gb、即1秒可传输320亿个0或1的超高速DRAM。考虑到刚才介绍的LLW DRAM每个出入口的数据传输速度为2Gb、Samsung Electronics12层HBM3E的速度为每秒10Gb,这一速度相当惊人。

Samsung Electronics在ISSCC发表中也说明了GDDR7的优点,并提出了比去年宣布开发完成时每秒32Gb更进一步升级的每秒40Gb速度。特别是介绍称,采用PAM3信号方式,比上一代GDDR6、GDDR6X产品使用的PAM4或PAM2(NRZ·Non Return to Zero)信号方式能实现更佳的速度。

这里再多看一下对我们略显陌生的PAM概念。PAM是脉冲幅度调制(Pulse Amplitude Modulation)的缩写。半导体接收数据信号或向外传输时,就像脉搏跳动一样存在周期(cycle)。每跳动一次脉搏、也就是每个周期内可以进行几次调制来传输数据,这种规则就是PAM。也就是说,PAM3是每个周期分为3个电平(level)、PAM4分为4个电平来传输数据的方法。

那么或许有人会问,PAM4每个周期能传输更多数据,不是更好吗?这可以说是一种"过犹不及"。PAM4虽然可实现多样调制,但缺点是易受外部干扰,反而可能出现更多数据传输错误。因此GDDR7似乎采用了折中NRZ与PAM4的PAM3。

实际上,从三星集团的资料中也能看到,PAM3的编码效率(Coding Efficiency)比使用PAM4信号方式时提高了11.5%。三星集团的资料还补充称:"采用PAM3相比PAM4可改善比特错误率(BER),可期待1.5倍更优的性能","PAM3信号方式比PAM4更能保障速度的扩展"。

以上我们了解了三星集团的LLW与GDDR7 DRAM性能。在第二篇中,我们将了解三星集团如何把PIM(Processing-In-Memory)技术应用于下一代存储器。祝大家周末愉快。

阅读韩文原文