韩国国内研究团队开发出大幅降低电力消耗和处理时间的新型人工智能(AI)半导体。政府计划为增强生成式AI产业竞争力,积极支持作为核心基础设施的AI半导体开发。
韩国科学技术情报通信部6日表示,韩国科学技术院(KAIST)存内计算(PIM)半导体研究中心及AI半导体研究生院教授柳会俊的研究团队,在全球率先开发出功耗仅400毫瓦、可在0.4秒内处理商用语言模型的新型AI半导体“互补型Transformer”。该研究成果已在上月于美国旧金山举行的国际固态电路会议(ISSCC)上发表。
互补型Transformer是一种选择性利用“脉冲神经网络(SNN)”与“深层人工神经网络(DNN)”这两种不同神经网络的半导体。正如人在大量思考时大脑能耗高、思考较少时能耗低一样,半导体也可根据运算量,朝着降低功耗的方向在两种神经网络中择一进行运算。
研究团队通过这种效率化,将运行现有GTP模型原本需要250W的功耗降至400毫瓦级的超低功耗,同时成功在4.5毫米见方的半导体芯片上完成运算。与英伟达旧款图形处理器(GPU)A100相比,功耗仅为其625分之一,芯片面积仅为41分之一。运算速度以GPT-2模型为标准亦可在0.4秒内完成处理。GPT-2拥有7.08亿个参数,这是AI模型的性能指标。虽小于数千亿参数规模的超大型AI模型,但主要用于近来受到关注的端侧AI,即边缘(末端)设备中的AI运算。研究团队强调:“此次研究成果即便在移动设备等能源约束较高的环境下也能准确运行大型语言模型(LLM),是实现端侧AI的最佳技术。”
研究团队今后计划将此类神经形态计算的研究范围从语言模型扩展至多种应用领域。柳教授解释称:“意义重大之处不仅在于解决了现有AI半导体的功耗问题,还成功运行了GPT-2等实际AI模型应用”,“神经形态计算是AI时代不可或缺的超低功耗、高性能端侧AI的核心技术,今后也将持续开展相关研究。”科学技术信息通信部信息通信产业政策官全永秀表示:“今后也将积极支持,以持续取得这样具有世界水平的研究成果。”






