2022-01-26 | 대전=박희윤 기자

ETRI开发AI核心软件“深度学习编译器”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

韩国国内研究团队公开了可缩短中小企业、初创企业开发人工智能(AI)半导体所投入时间与成本的核心技术。通过开发解决此前一直是障碍的硬件与软件之间兼容性和扩展性问题的系统软件,AI半导体开发有望加速。

韩国电子通信研究院(ETRI)26日表示,已开发出AI核心系统软件——深度学习编译器"NEST-C"。为便于开发者使用,该成果与自主开发的AI半导体硬件一同在网络(Github)上公开。

随着AI技术发展,深度学习应用服务正向各领域扩展。实现这些服务的AI算法也日趋复杂,对更出色、更高效的运算处理的需求不断增大。

ETRI定义了适用于AI应用程序的通用中间表示并应用于NEST编译器,从而解决了问题。通过消除AI应用程序与AI半导体之间的异质性,AI半导体开发变得更加容易。该技术还被制定为韩国信息通信技术协会(TTA)标准。

相较于中央处理器(CPU)或图形处理器(GPU),专用于AI运算处理的神经网络处理器(NPU)AI半导体正备受关注。为运行自动驾驶、物联网(IoT)、传感器等应用程序,需要分别设计最优化的AI半导体。

同时,只有各自最优化的编译器生成准确的执行代码,才能发挥最大性能。这正是保障深度学习模型推理性能的核心系统软件——深度学习编译器之所以重要的原因。它相当于在硬件与应用软件之间起到桥梁作用。

一般而言,制造商会将AI半导体、系统软件、应用程序一并开发并销售。此前中小企业、初创企业难以将力量集中于半导体设计,因为要在系统软件、应用程序开发及优化上投入不少时间。大型制造商提供的系统软件针对自家芯片优化,且以非公开方式开发,应用上存在局限。

尤其是编译器还要根据芯片种类和AI应用程序逐一分别开发,十分繁琐,相互兼容性和向新领域的扩展性存在局限。

通过此次开发,可缩短应用程序开发及优化时间,减轻系统软件开发负担,并有助于降低半导体生产与销售成本。不仅兼容CPU、GPU,还兼容NPU处理器。

特别是当需要支持的AI应用程序和芯片种类增多时,差异更为显著。此前需按"深度学习平台种类×芯片种类"开发相应数量的编译器,如今只需一个通用性强的NEST编译器即可替代。

ETRI在以开源形式公开NEST编译器的同时,为活跃相关产业生态,还一并公开了将NEST编译器应用于自主开发AI半导体的参考模型。特别是同时公开AI半导体开发用软件与硬件,这是首次。

研究团队表示,在目前碎片化开发的AI半导体生态中,NEST编译器可起到凝聚核心的作用,因此此次公开意义重大。

ETRI还将NEST编译器应用于韩国国内AI半导体初创企业自主开发的高性能AI半导体。计划与相关企业合作扩大深度学习编译器的支持范围,并正通过软件专业企业推进AI半导体应用服务的商业化。此外,还将提升AI应用服务开发所需的性能与便利性,为创造新服务作出贡献。

ETRI下一代系统软件研究室室长金泰浩表示:"标准深度学习编译器开源公开,是为活跃韩国国内AI半导体生态而开发的系统软件",并称"为在各类AI半导体企业中应用,正在进行技术合作"。

阅读韩文原文