2026-07-06 | 서지혜 기자

AI代理耗电为普通生成式AI的136倍

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

研究显示,人工智能(AI)智能体每处理一个提问所耗能源最高达现有生成式AI的136.5倍。

KAIST于6日表示,电气与电子工程学院柳民洙讲座教授研究团队在全球首次系统分析了AI智能体在实际服务环境中使用多少计算资源和电力。

AI智能体超越了ChatGPT等大型语言模型(LLM)单纯回答提问的层次,能够自行制定计划,并利用互联网搜索、计算器、代码执行等外部工具解决复杂问题。尽管其在软件开发、研究支持、业务自动化等多个领域的应用不断扩大,但将其作为实际服务运营所需的电力和成本尚未被充分了解。

研究团队将AI智能体视为数据中心服务器与图形处理器(GPU)必须持续处理的新型作业,分析了执行过程中产生的计算量与能源消耗。结果显示,AI智能体产生的LLM调用次数平均为现有分步推理方式思维链(CoT)的9.2倍。

响应时间也大幅增加。AI智能体的回答时间最多增加153.7倍。特别是在外部工具执行作业期间,GPU无法进行计算而处于等待状态的时间最高占总执行时间的54.5%。为解决复杂问题而在多个工具之间往返的过程中,出现了昂贵GPU未被充分利用的低效现象。

能源消耗量远高于现有生成式AI。据研究团队分析,使用700亿参数大型语言模型的AI智能体,处理一个提问平均消耗348.41Wh电力。这比一般单次问答方式的生成式AI高出136.5倍。

研究团队还将其扩展至数据中心规模进行分析。若假设未来每天产生137亿次AI智能体请求,数据中心电力需求估计将达到约198.9GW。这远超目前世界各国正在推进的数GW级AI数据中心规模,相当于美国全国平均电力消耗量的约一半。

本次研究表明,AI竞争力正从模型性能扩展到AI半导体、数据中心、电力基础设施的效率。预计今后不仅要打造更聪明的AI模型,将AI模型与半导体、数据中心、电网共同优化的协同设计将变得重要。

KAIST讲座教授柳民洙表示:“本次研究是首次定量呈现AI在变得更聪明之外,实现并维持这种智能需要多少电力和成本的案例”,并称“在AI智能体普及的时代,不仅是AI数据中心,将AI智能体模型与电力基础设施一体化设计和优化的方法将变得重要”。

本次研究由KAIST电气与电子工程学院博士生金智仁作为第一作者完成。研究成果于今年2月在计算机系统设计领域国际学术会议IEEE HPCA上发表。研究团队将论文中使用的AI智能体实现技术与基准测试以开源形式公开,供后续研究使用。

阅读韩文原文