2025-01-16 | 실리콘밸리=윤민혁 특파원

吴恩达:“从GPU向推理型半导体的范式转换…将成为韩国的大机遇”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“此前市场关注英伟达、AMD等,是因为用于人工智能(AI)‘训练’的图形处理器(GPU)最为重要。但随着思维链(Chain of Thought)的普及,能够更高效、更快速完成推理的新硬件将变得重要。”

被誉为全球四大AI权威之一的斯坦福大学教授吴恩达近日接受Seoul Economic Daily采访时表示:“在承担AI层级(堆栈)基础的半导体领域,韩国企业具有非常大的优势。”

吴恩达教授预计,随着应用‘思维链’的推理型AI走向普及,AI半导体基础设施的格局将发生改变。吴恩达被认为是最早将GPU用于深度学习的研究者之一,而正是这样的他在推理型AI时代预言半导体范式的更替。

据吴恩达教授解释,过去专注于预训练的生成式AI开发,必须依靠大量GPU来快速处理庞大数据。这也是曾为GPU市场主导者的英伟达登上全球半导体企业市值第一的原因。但在训练之后的AI实际运行过程中,推理占比越高,相对擅长训练的GPU的重要性就越低。英伟达H100、Blackwell等AI加速器在推理方面也表现出色,但“性价比”不佳。

吴恩达教授所看到的未来是推理专用半导体(ASIC)。专为推理设计的ASIC相比适合通用AI任务的GPU,不仅生产成本更低,耗电量即运营成本也更少。相比英伟达、AMD等大型GPU制造商,可选择范围更广也是其优势。

吴恩达教授表示:“我对SambaNova、Cerebras、Graphcore、Groq等初创企业的半导体创新感到非常兴奋”,“这些公司各类推理专用半导体正让AI模型的速度大幅提升,并最终使更多‘思维链’任务成为可能。”

这对包括Samsung Electronics和SK海力士在内的韩国半导体业界也是机遇。吴恩达教授提到的Graphcore和Groq都是Samsung Electronics投资的公司。Groq的部分AI芯片组由Samsung Electronics代工厂制造。英伟达设计、台积电制造一统天下的AI加速器生态可能出现裂痕,Samsung Electronics等其他代工厂的客户增加的格局也可能形成。此外,Rebellions、FuriosaAI等正在开发推理专用AI芯片组的韩国初创企业,也有望拓宽销路。

推理芯片的普及对高带宽内存(HBM)等存储生态也是利好。据悉,Samsung Electronics正向Rebellions供应12层HBM3E,SK海力士正向FuriosaAI供应HBM3。此外,低价推理芯片中除HBM外还常采用图形内存(GDDR),因此原本以HBM为主的存储需求也预计将扩大。

吴恩达教授强调:“我对推理型AI带来的半导体创新将在韩国、美国及世界各地创造的机会感到非常兴奋”,“最近韩国内部出现一些问题和变化,导致外国直接投资减少,但包括我在内的硅谷所有人对韩国的长期前景都非常乐观。”

阅读韩文原文