“沿用现有英伟达服务器架构那样的数据中心设计方式,人工智能(AI)资源利用存在局限。如今要实现高性能运算,如何高效连接并利用图形处理器(GPU)与存储器半导体等的‘半导体连接’变得至关重要。”
由韩国科学技术情报通信部主办、韩国研究财团与Seoul Economic Daily共同承办的“大韩民国科学技术人奖”1月获奖者、Panmnesia代表兼韩国科学技术院(KAIST)电气与电子工程学院教授郑明洙7日表示,将凭借自主技术“基于计算快速链接(CXL)的模块化AI数据中心架构”,在全球AI需求激增背景下的数据中心性能竞争中抢占主导权。郑代表创办的Panmnesia凭该技术在全球最大电子与信息技术(IT)展会CES上于去年获得创新奖,并参加了6日(当地时间)开幕的今年展会,展示最新技术“CXL 3.2 Fabric交换机”,并正在推进商用化。
GPU承担驱动AI模型的核心运算功能,但为此还必须有能存放海量数据、并在需要时随时调用的存储器。这与工作者(GPU)再聪明,若没有能整齐堆放文件的桌子(存储器)也无法正常工作是同样的道理。因此GPU自身也配备了存储器,但其容量通常为数十GB(千兆字节),而运行最新大语言模型(LLM)所需的存储容量达到TB(太字节,1000GB)级别,仅靠GPU构建AI数据中心存在局限。在英伟达以将自家GPU与SK海力士、Samsung Electronics的高带宽存储器(HBM)结合的AI加速器、连接多个GPU的“NVLink”等新技术应对之际,CXL成为另一种替代方案。
CXL是让GPU与存储器快速交换数据的连接装置,即一种“数据高速公路”。通过它可按GPU所需加挂额外存储器,解决容量不足问题。此前也有为GPU增加存储器的设想,但GPU与额外存储器之间通信速度受限,导致无法及时收发所需数据的瓶颈现象成为障碍。在提升GPU与存储器间通信速度以消除瓶颈的CXL开发竞争展开之际,Panmnesia于2024年将通信延迟缩短至数十纳秒(十亿分之一秒),实现比竞争技术快3倍以上的速度。并进一步整合HBM与NVLink,发展出可按需自由组合GPU、存储器、中央处理器(CPU)来构建数据中心的模块化AI数据中心解决方案。最新技术CXL 3.2 Fabric交换机将在CES 2026上展出,并通过向合作企业分发样品芯片验证量产可能性。
郑代表表示,此类技术可大幅降低数据中心运营费用。他说:“现有英伟达服务器架构那样的形态,(GPU与存储器等)装置比例是固定的”,“因此GPU存储器不足时不得不额外采购昂贵的GPU,而(用我们的技术)只需额外连接所需存储器即可节省成本”。Panmnesia此前介绍称,通过CXL可将GPU可用存储容量提升至TB级,并使AI服务提供商的设备投资(CAPEX)减少34倍。
郑代表的CXL研究始于2015年,早于2022年底的ChatGPT,也早于2016年的AlphaGo,堪称“先见之明”。他说:“在AI真正受到关注之前,运算资源与存储器分散架构导致的通信延迟与瓶颈问题就反复出现”,“因此我认为仅提升单个装置性能难以提高整个系统效率,这一点随着近来大规模AI扩散而变得更加明显”。他在美国宾夕法尼亚州立大学获得电气工程博士学位,先后任职于Samsung Electronics和劳伦斯伯克利国家实验室等,2019年出任KAIST教授。随后于2022年创办Panmnesia,两年内成功累计获得千亿韩元级投资。
郑代表计划在新的一年集中扩大商用化。他表示:“自去年下半年起,应用相关技术的初期硅片已在产业界合作伙伴中共享,受到广泛关注”,“计划集中于扩大相关生态并将研究推向实用方向”。他还强调政府支持的必要性:“半导体连接技术相对未受关注,但如果持续开展研究,将有助于确保国家竞争力。”






