2026-01-08 | 대전=박희윤 기자

ETRI打破超大规模AI训练的“内存壁垒”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

韩国研究团队成功开发出可从根本上解决超大规模人工智能(AI)训练过程中痼疾性问题“内存不足”的核心技术。该技术为下一代以太网内存扩展技术,预计将引领AI、大数据产业整体的基础设施革新。

韩国电子通信研究院(ETRI)8日表示,已开发出解决超大规模AI训练中最大难题——GPU内存限制与数据瓶颈现象的新内存技术“OmniXtend”。

近期随着超大规模AI模型与高性能计算(HPC)需求急剧增加,需处理的数据规模也在爆发式增长。然而,无论GPU性能如何提升,若内存容量不足,运算效率就会急剧下降,这一“内存墙(memory wall)”问题仍是待解课题。

ETRI开发的OmniXtend是利用标准网络技术以太网(Ethernet),将多台服务器与加速器(Device)各自的内存像一个大容量内存那样共享的技术。

也就是说,将原本各设备独立存在的内存扩展至整个网络,实现了可按需灵活获取AI训练所需内存的结构。

AI模型越大型化,所需内存量持续增加,因此“以池(pool)形式共享和利用内存的扩展型结构”正作为下一代AI基础设施的核心技术受到关注。

ETRI的OmniXtend以以太网为基础实现了这种扩展型内存共享结构,同时确保了超大规模AI训练的性能、扩展性与经济性。

首先,通过最小化数据移动延迟提升了AI训练速度,且无需更换服务器即可扩展内存,预计还将带来数据中心建设与运营成本的节约效果。

尤其是,原有基于高速串行通信接口(PCIe)的结构在设备间连接距离和系统扩展方面存在局限。而OmniXtend可利用以太网交换机,将物理上分离的多台设备整合为一个内存池,因此被评价为适合超大规模AI环境的高扩展性系统结构。

ETRI研究团队开发了△基于现场可编程门阵列(FPGA)的内存扩展节点△基于以太网的内存传输引擎等核心要素技术,验证了系统的稳定运行。

在实际演示中,成功展示了在以太网环境下多台设备构成共享内存池(memory pool)并实时相互访问内存的情形。

此外,通过利用大规模语言模型(LLM)的运算负载测试,确认OmniXtend结构在实际AI训练环境中也有助于性能提升。实验结果显示,在内存容量不足的环境下LLM推理性能大幅下降,而以以太网扩展内存后性能恢复2倍以上。这表明可维持与具备充足内存的原有环境相近水平的处理性能。

ETRI于去年5月在法国巴黎举办的“RISC-V Summit Europe 2025”和在美国圣克拉拉举办的“RISC-V Summit North America 2025”上接连公开该技术,受到高度关注。

同时,ETRI主导Linux基金会下属CHIPS Alliance的互连工作组(Interconnect Working Group),致力于为AI网络与内存扩展确立开源标准并推动其国际普及。

ETRI计划今后以数据中心硬件、软件企业为中心推进技术转让,谋求商用化。尤其将应用于AI训练与推理服务器、内存扩展设备、网络交换机等,在下一代AI基础设施市场创造实质性产业成果。

此外,还将同步推进后续研究,将该技术扩展为车辆、船舶等高可靠嵌入式系统的大容量内存连接网络,并升级NPU、GPU、CPU等异构加速器之间的内存共享结构。

ETRI超性能计算研究本部长金康浩表示:“今后计划通过新的课题规划,全面扩大以神经网络处理器(NPU)和加速器为中心的内存互连技术研究”,“将持续推进技术升级与国际合作,使该技术能够应用于全球AI、半导体企业的下一代系统”。

阅读韩文原文