2024-07-08 | 김윤수 기자

KAIST开发出克服AI半导体内存极限的“CXL-GPU”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

韩国国内开发出可克服人工智能(AI)半导体中广泛使用的图形处理器(GPU)内存容量限制的技术。

韩国科学技术院(KAIST)8日表示,电气与电子工程学部教授郑明修研究团队开发出一项技术,可优化由下一代接口技术计算快速链接(CXL)所启用的大容量GPU装置的内存读写性能。

GPU的内部内存容量仅有数十GB,在自主推理与学习方面存在局限。为驱动大规模AI模型,业界采用连接多个GPU的方式,但这会带来成本负担问题。

研究团队提出了替代方案“CXL-GPU”,即利用可高效连接中央处理器(CPU)、GPU与存储装置等的CXL,将大容量内存直接连接至GPU。团队开发出改善CXL-GPU原有性能下降问题并实现高效设计的技术。研究团队利用半导体无晶圆厂初创企业Panmnesia的CXL-GPU样机进行技术有效性验证,确认其运行AI服务的速度比现有GPU内存扩展技术快2.36倍。

研究成果将于本月在圣克拉拉举行的USENIX联合学会及HotStorage研究发表会上公开。郑教授期待表示:“这将加速CXL-GPU市场的开启时机,为运营大规模AI服务的大型科技企业大幅降低内存扩展成本作出贡献。”

阅读韩文原文