2024-09-19 | 김윤수 기자

无需高性能GPU也能进行AI训练

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

韩国国内研究团队开发出无需高性能图形处理器(GPU)等高成本基础设施,也能低成本训练人工智能(AI)模型的技术。

韩国科学技术院(KAIST)19日表示,电气与电子工程学部教授韩东洙研究团队开发出可利用普通消费级GPU将AI模型训练加速数十倍至数百倍的“StellaTrain”分布式训练框架。研究成果已于上月在澳大利亚悉尼举行的“ACM SIGCOMM 2024”上发表。

此前训练AI模型需要单价高达数千万韩元的高性能GPU,英伟达的H100即为代表。除少数大型科技企业外,多数AI开发企业引入此类基础设施的成本负担巨大。

研究团队开发出即使利用比H100便宜10至20倍的普通消费级GPU和普通互联网环境,也能提高AI模型训练效率的技术。低价GPU因内存容量与网络速度的限制,存在AI训练速度慢的问题。研究团队通过将多个GPU并行配置并开发定制算法解决了该问题。研究团队的StellaTrain技术显示出比现有方式最高快104倍的训练性能。

韩教授表示:“希望此次研究有助于让任何人都能轻松接触大规模AI模型训练”,“今后也计划继续开发在低成本环境下也能训练大规模AI模型的技术。”

阅读韩文原文