2024-01-25 | 실리콘밸리=윤민혁 특파원

英伟达AI加速器首次采用HBM3e…AMD、谷歌也增用“高性能内存”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

随着人工智能(AI)扩散,预计今年存储器市场也将迎来全面景气。原因是AI芯片组日益高端化,所需的DRAM也趋向大容量、高性能化。此外,随着边缘(端侧)AI生态扩张,智能手机和PC的DRAM搭载量也在增加。市场期待AI为低迷的信息技术(IT)生态整体注入新风,使存储器行情迅速改善。

据25日半导体业界消息,英伟达将于今年第二季度推出的AI加速器“H200”将业界首次搭载高带宽存储器(HBM)3e。

HBM3e是SK海力士(000660)正向英伟达供货的HBM3的后续规格。数据传输速度为9.6Gb/s(每秒千兆比特),比6.4Gb/s的HBM3快50%。作为新规格,其单价自然也高于现有HBM。H200不仅采用最新的HBM3e,存储器搭载量也大幅增加。前作H100使用HBM3规格的80GB(千兆字节)存储器,而H200使用141GB的HBM3e。仅比较存储器容量便增加了76.3%。

除英伟达外,其他AI加速器制造商也在竞相推进存储器高端化与大容量化。被视为英伟达最大竞争对手的AMD,在去年12月推出的最新AI加速器“Instinct MI300X”上采用了192GB的HBM3存储器。相比上一代MI250X的128GB HBM2e,容量与品质均有提升。

使用自研AI加速器“TPU”的谷歌也在快速行动。谷歌去年底连同超大规模AI“Gemini”一起公开了最新的“TPUv5p”。用于Gemini训练的TPUv5p使用95GB的HBM3。相比TPUv4版本使用的32GB,可见存储器增加了约3倍。

存储器增加趋势并不限于AI加速器。运行AI的IT设备的存储器搭载量也比过去增加。因为随着自行处理AI运算的端侧AI扩散,各设备被要求具备更高性能。实际上,Samsung Electronics公开的“AI手机”Galaxy S24+将DRAM从原有的8GB增至12GB,提高了50%。笔记本和台式机等PC的DRAM“最低要求”预计也会提高。

近期台湾市场分析机构TrendForce预测:“从将成为AI操作系统(OS)的Windows 12开始,16GB DRAM将成为标准。”这意味着以目前标准的8GB难以自行运行AI,搭载更高容量存储器作为基本配置正成为大势。

阅读韩文原文