可将ChatGPT性能提升60%以上的国产人工智能(AI)半导体技术已研发成功。
韩国科学技术院(KAIST)4日表示,计算机学部教授朴钟世的研究团队与电气电子工学部教授金主永创办的企业HyperAccel共同研发出专为ChatGPT等生成式AI服务打造的高性能、低功耗神经网络处理器(NPU)核心技术。相关研究成果已于上月21日在日本东京举行的“2025国际计算机体系结构研讨会(ISCA)”上发表。
NPU是专用于AI运算的半导体。目前被期待成为英伟达独占的图形处理器(GPU)的替代方案,Rebellions、FuriosaAI等韩国企业正在推进技术国产化。在此背景下,研究团队开发的NPU技术与最新GPU相比,可将生成式AI模型的推理性能平均提升60%以上,同时功耗可降至44%的水平。
研究团队在推理过程中通过轻量化将精度损失降至最低,同时解决内存瓶颈问题,成功改善了大规模生成式AI服务的性能。GPU为满足高内存带宽和内存容量需求需要大量部署,而该技术仅用少量NPU即可实现同等水平的AI基础设施。
朴教授表示:“通过将在保持推理精度的同时减少内存需求的轻量化技术与为其优化的硬件设计相结合,实现了相比最新GPU性能平均提升60%以上的NPU”,“预计不仅在数据中心,在以主动执行型AI‘智能体AI’等为代表的AX(AI转型)环境中也将发挥核心作用。”






