2026-01-07 | 김윤수 기자

“仅靠英伟达GPU有极限…以纳秒级半导体互联支撑K-AI”[Panmnesia代表郑明洙]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“仅靠现有英伟达的服务器架构,已难以应对大规模人工智能(AI)服务需求。如今为实现高性能运算,如何高效连接和利用图形处理器(GPU)与存储半导体等的‘半导体连接’变得至关重要。”

由韩国科学技术情报通信部主办、韩国研究财团与Seoul Economic Daily共同承办的“大韩民国科学技术人奖”1月获奖者、Panmnesia代表兼韩国科学技术院(KAIST)电气与电子工程学院教授郑明洙7日表示,将凭借自主技术“基于计算快速链接(CXL)的模块化AI数据中心架构”,在应对全球AI需求激增的数据中心性能竞争中掌握主导权。郑代表创立的Panmnesia凭该技术在全球最大家电及信息技术(IT)展会“消费电子展(CES)”上于去年获得创新奖,并参加6日(当地时间)开幕的本届展会,展示最新技术“CXL 3.2 Fabric交换机”,并推进面向客户的商用化。

GPU承担驱动AI模型的核心运算功能,但为此还必须有能够存放海量数据并在需要时随取随用的内存。这就好比工人(GPU)再聪明,若没有可以整齐堆放文件的书桌(内存),也无法正常工作。因此GPU自身也配备内存,但其容量通常为数十GB(千兆字节),而运行最新大型语言模型(LLM)所需的内存容量达TB(太字节,1000GB)级别,仅靠GPU构建AI数据中心存在局限。在英伟达以将自家GPU与SK海力士、Samsung Electronics的高带宽存储器(HBM)结合的AI加速器、连接多个GPU的“NVLink”等新技术应对之际,CXL成为另一种替代方案。

CXL是让GPU与内存快速交换数据的连接装置,即一种“数据高速公路”。通过它可按需为GPU附加额外内存,解决容量不足问题。此前也有为GPU增加内存的想法,但GPU与额外内存之间通信速度受限,导致无法及时收发所需数据的瓶颈现象成为障碍。在提升GPU与内存间通信速度以消除瓶颈的CXL开发竞争开启之际,Panmnesia于2024年将通信延迟缩短至数十纳秒(十亿分之一秒),实现比竞争技术快3倍以上的速度。该公司进一步整合HBM与NVLink,发展出可按需自由组合GPU、内存和中央处理器(CPU)来构建数据中心的模块化AI数据中心解决方案。最新技术CXL 3.2 Fabric交换机将在CES 2026上展出,并通过向合作方分发样品芯片来验证量产可能性。

郑代表解释称:“英伟达服务器架构中(GPU与内存等)设备比例固定,难以按应用特性灵活利用资源”,“因此过去GPU内存不足时必须额外购买昂贵的GPU,而(采用我们的技术)只需额外连接所需内存即可降低成本。”他强调:“最新的超大规模数据中心达到数百万个GPU规模、数千个足球场面积”,“在大规模AI应用环境中,不仅各设备的单体性能,如何高效连接和利用它们正变得越来越重要。”

阅读韩文原文