韩国科学技术院(KAIST)30日表示,由计算机学院教授朴钟世带领的“AnyBridge人工智能(AI)”团队开发出新一代AI基础设施软件,可不依赖图形处理器(GPU),整合多种AI加速器,高效提供大语言模型(LLM)服务。
研究团队凭借新技术开发,在Kakao集团主办的“四大科学技术院 X Kakao集团 AI培育项目”中获得大奖。Kakao集团与四大科学技术院作为产学合作项目的一环,对以AI技术为基础的预备创业团队的技术实力与商业性进行综合评估,遴选优秀团队。大奖团队将获得共计2000万韩元奖金以及最高3500万韩元规模的Kakao Cloud额度。
AnyBridge AI以在AI系统与计算机体系结构领域积累的研究成果为基础,目标是开发可在实际产业现场应用的技术。美国硅谷AI半导体系统初创企业SambaNova的联合创始人、斯坦福大学教授Kunle Olukotun作为顾问参与,共同推进面向全球市场的技术与业务扩展。
AnyBridge团队注意到,目前大多数LLM服务依赖高价GPU基础设施,随着服务规模扩大,运营成本与电力消耗急剧增加,存在结构性局限。研究人员分析认为,这一问题的根本原因并非特定硬件性能,而是缺乏能够高效连接与运用GPU以及神经网络处理器(NPU)、存内计算(PIM)等多种AI加速器的系统软件层。
AnyBridge团队提出了不论加速器种类、都能在同一接口与运行时环境下提供LLM服务的整合软件栈。尤其指出现有以GPU为中心固化的LLM服务架构的局限,并提出可在一个系统中共同利用多种AI加速器的“多加速器LLM服务运行时软件”作为核心技术,获得高度评价。
通过该技术,可实现不依附于特定厂商或硬件,同时能根据任务特性选择与组合最合适AI加速器的灵活AI基础设施架构。这被评价为可降低LLM服务的成本与电力消耗、并大幅提升扩展性的优势。
AnyBridge团队基于多年积累的LLM服务系统仿真研究,具备无需实际搭建大规模基础设施即可事先验证多种硬件与软件设计组合的研究基础。这一点被评价为同时展现了技术完成度与产业实现可能性。
朴教授表示:“此次获奖意味着超越以GPU为中心的AI基础设施局限、整合多种AI加速器的系统软件的必要性获得认可”,“能够将研究成果扩展到产业现场与创业,意义重大。”他还表示:“将通过与产业伙伴的合作,把它发展为新一代LLM服务基础设施的核心技术。”






