被称为“高带宽存储器(HBM)之父”、长期引领相关研发(R&D)的韩国科学技术院(KAIST)电气与电子工程学院教授金正浩分析称,由英伟达主导的人工智能(AI)半导体图形处理器(GPU)创新已几近极限。他认为,包括HBM在内的存储器新技术将接棒延续AI半导体创新,由此为Samsung Electronics(005930)、SK海力士(000660)等韩国企业打开了机会。
金教授3日在首尔中区新闻中心举行高带宽闪存(HBF)研究及战略说明会,他表示“GPU创新已基本结束”,并预测“英伟达的(市场支配力)也将在2~3年内下降”。他补充称:“由于GPU之间的通信性能不足,无法连接大量GPU”,“英伟达最新GPU‘Rubin’也只连接了2个,再增加就很困难”。相反,他解释称,存储器可像HBM那样连接多个,从而持续提升性能。
GPU承担AI运算的核心功能,但也需要用于记忆并调取待处理数据的存储器HBM。英伟达以自研GPU与三星电子或SK海力士开发的HBM结合而成的AI加速器形态供应半导体。随着AI模型发展,支撑运算速度的半导体也需要提升性能,而金教授认为,今后主导半导体发展的将不是GPU,而是存储器。
他尤其认为,今后不断增长的AI运算需求,仅靠当前HBM的发展无法满足。因为HBM虽紧邻GPU搭载以支持数据记忆,但一次可容纳的容量存在极限。一旦数据运算量达到HBM无法承受的水平,必然出现瓶颈现象。金教授表示:“实验室进行的模拟结果显示,以Meta的AI模型‘Llama 3’为基准,在4000亿参数规模下,上下文长度超过1万个的运算量,仅靠HBM难以处理。”
因此,HBF作为替代方案受到关注。其数据收发速度不及HBM,但具备可处理大容量的优势。金教授解释称,若从当前GPU与HBM并排搭载的“GPU-HBM”AI半导体结构,扩展为额外连接HBF的“GPU-HBM-HBF”结构,HBF可辅助HBM,克服数据容量极限。
金教授表示:“在这样的AI半导体结构下,擅长HBM的企业也能做好HBF”,“换言之,期待Samsung Electronics和SK海力士将凭借HBM竞争力主导HBF市场”。两家公司正以明年公开为目标开发HBF技术。






