2025-01-02 | 강해령 기자

“英伟达引发的台风”将至?Samsung Electronics与SK也加速开发

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

随着人工智能(AI)半导体市场的潮流进入“定制化”时代,存储器市场也预计将发生地壳变动。除了多年来主导AI存储器行业的高带宽存储器(HBM)之外,多种DRAM开始被视为下一代AI芯片,SK海力士独占市场的格局也可能出现裂痕。

据业界2日消息,在英伟达独大的AI半导体市场出现新变化,是因为“推理”市场正在崛起。AI半导体大致分为训练用和推理用。训练用半导体用于将庞大数据整理为简单模型,以开发大语言模型(LLM)。

英伟达的产品在AI训练用半导体市场展现出卓越实力。2022年OpenAI推出ChatGPT后,全球各地掀起生成式AI与LLM模型“热潮”,如英伟达H系列这类针对训练优化的图形处理器(GPU)销售火爆。

业界逐渐开始更关注推理用AI芯片。原因是将训练好的AI模型正式应用于AI服务的动向开始出现。据市场调研机构Omdia数据,推理用AI芯片市场规模将从2023年的60亿美元增长至7年后即2030年的1430亿美元(约210万亿韩元)。

对推理用芯片而言,比处理庞大数据量的能力更重要的是单位功耗性能,即所谓“能效比”。业界对英伟达芯片是否适合作为推理用半导体存在争论。理由是其价格过于昂贵,且功耗极大,在应用场景细分的推理市场中吸引力可能下降。自去年下半年起,GB200等最高端产品线的供应问题也开始浮现。

科技巨头正加快开发符合自身特色的ASIC(定制芯片)。谷歌去年5月发布了可同时应对训练与推理的AI芯片“Trillium”。

博通在股市受到关注的原因也在于此。它与谷歌、Meta携手,为各客户的ASIC开发提供支持。在最近的业绩发布会上,公司还表示“正在与3家大型云企业共同开发定制AI芯片”。

定制化半导体市场一旦全面开花,存储器市场的面貌也可能大幅改变。在英伟达主导的AI芯片市场,HBM占据统治地位。它可在运算单元旁边存储大容量数据,信息传输速度也相当快。Samsung Electronics与SK海力士计划今年年底量产的第6代HBM(HBM4),其信息输入输出通道数预计将比上一代增加一倍,达到2048个。

不过随着推理时代临近,能够兼顾成本与电力效率的新型存储器正受到瞩目。用于移动设备的LPDDR芯片等是典型代表。Meta的推理芯片“MTIA”并非基于HBM,而是基于LPDDR设计。NAVER集团到去年与Samsung Electronics共同开发的“Mach”芯片也是很好的例子。

将通用DRAM模组效能最大化的方案也在考虑之中。计算快速链接(CXL)DRAM是典型代表,其概念是通过可无限扩充数据中心所需DRAM模组数量的标准来应对庞大的AI数据。据悉,Samsung Electronics与SK海力士在推进HBM变体的同时,也在加快开发新类型的AI用DRAM。

业界一位相关人士表示:“如果光半导体(硅光子)等高维通信技术得到发展,HBM与通用DRAM之间的界限也有可能被打破”,“现在应密切关注HBM以外其他AI用存储产品的成长可能性”。

阅读韩文原文