2025-01-03 | 실리콘밸리=윤민혁 특파원,강해령 기자

英伟达也搞“定制芯片”…三星集团与SK的存储市场也将剧变 [biz-plus]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

人工智能(AI)加速器市场的绝对霸主英伟达,此次将进军“定制芯片(ASIC)”市场。业界解读认为,由于绝对性能出色但价格昂贵的英伟达AI芯片之外,价格便宜且仅专注于单一功能的博通定制芯片在市场上受到关注,英伟达也开始应对。随着AI芯片向定制化演进,搭载于AI芯片的高带宽内存(HBM)等AI内存市场也将根据客户口味趋于多元化。这意味着SK海力士一家独大的AI内存格局从今年起可能发生变化。

据台湾《工商时报》等外媒2日报道,英伟达为提升定制芯片组能力新设了ASIC部门。据悉,新部门的人员正从台湾联发科等ASIC领域企业中招募。此前去年6月,英伟达首席执行官(CEO)黄仁勋曾表示:“未来5年内将在台湾设立研发(R&D)中心,雇佣1000多名工程师。”

ASIC指为特定运算而设计的专用系统半导体。与AI加速器不同,其通用性较差,但在特定领域能发挥卓越性能。因此,云服务企业争相自主设计ASIC并陆续引入数据中心。博通、迈威尔等芯片组设计合作企业的股价也随之上涨。

技术趋势从英伟达芯片组具备优势的“训练”转向OpenAI“o1”等“推理”,也被视为推理专用ASIC受关注的背景。若ASIC普及,“英伟达用HBM独霸天下”的内存市场也可能出现变化。随着各设计企业的定制内存变得重要,客户将更加多样化,图形内存(GDDR)需求预计也将增加。

随着人工智能(AI)半导体市场趋势进入“定制化”时代,内存市场预计也将发生地壳变动。除多年来主导AI内存业界的高带宽内存(HBM)之外,各类DRAM开始被提及为下一代AI芯片,SK海力士的市场独大格局也可能出现裂痕。

据业界2日消息,在英伟达一家独大的AI半导体市场出现新变化,是因为“推理”市场正在崛起。AI半导体大致分为训练用和推理用。训练用半导体用于为开发大语言模型(LLM)而将海量数据转化为简单模型。

━ “英伟达引发的台风”要来了?Samsung Electronics、SK也在加速开发 随着人工智能(AI)半导体市场趋势进入“定制化”时代,内存市场预计也将发生地壳变动。除多年来主导AI内存业界的高带宽内存(HBM)之外,各类DRAM开始被提及为下一代AI芯片,SK海力士的市场独大格局也可能出现裂痕。

据业界2日消息,在英伟达一家独大的AI半导体市场出现新变化,是因为“推理”市场正在崛起。AI半导体大致分为训练用和推理用。训练用半导体用于为开发大语言模型(LLM)而将海量数据转化为简单模型。

英伟达的产品在AI训练用半导体市场展现出超群实力。2022年OpenAI推出ChatGPT后,全球各地掀起生成式AI和LLM模型“热潮”,如英伟达H系列这样为训练优化的图形处理器(GPU)销售火爆。

业界逐渐开始更加关注推理用AI芯片。这是因为将已训练的AI模型正式应用于AI服务的动向开始出现。据市场调查机构Omdia数据,推理用AI芯片市场预计将从2023年的60亿美元增长至7年后2030年的1430亿美元(约210万亿韩元)。

对推理用芯片而言,比处理海量数据的能力更重要的是单位功耗性能,即所谓“能效比”。业界对英伟达芯片是否适合推理用半导体存在争论。理由是其价格过于昂贵且耗电极为严重,在应用领域细分的推理市场中吸引力可能下降。自去年下半年起,GB200等顶级产品线的供应问题也开始浮现。

大型科技企业正加快开发符合自身特色的ASIC(定制芯片)。谷歌去年5月发布了可同时应对训练与推理的AI芯片“Trillium”。

博通在股市受关注的原因也在于此。它与谷歌、Meta联手,支持各客户企业的ASIC开发。在最近的业绩发布会上还表示:“正在与3家大型云企业共同开发定制AI芯片。”

若定制半导体市场全面开花,内存市场的面貌也可能发生巨变。在英伟达主导的AI芯片市场,HBM占据统治地位。它能在运算装置旁边存储大容量数据,信息传输速度也相当快。Samsung Electronics与SK海力士以今年年底量产为目标的第六代HBM(HBM4),其信息进出通道数量预计将比上一代增加一倍,达到2048个。

不过随着推理时代到来,能够同时保障成本与电力效率的新型内存备受瞩目。应用于移动设备的LPDDR芯片等便是代表。Meta的推理芯片“MTIA”并非基于HBM,而是基于LPDDR设计。NAVER集团到去年与Samsung Electronics共同开发的“Mach”芯片也是很好的例子。

将通用DRAM模块效能最大化的方案也在考虑之中。计算快速链接(CXL)DRAM便是代表,其概念是通过可无限增加数据中心所需DRAM模块数量的标准来应对海量AI数据。据悉,Samsung Electronics与SK海力士在推进HBM变体的同时,也在加快开发新型AI用DRAM。

业界一位人士解释称:“如果光半导体(硅光子)等高维度通信技术发展起来,HBM与通用DRAM之间的界限也有可能被打破”,“现在是应密切关注HBM以外其他AI用内存产品成长潜力的时候”。

阅读韩文原文