2022-08-24 | 대전=박희윤 기자

KAIST开发可推理精细视觉判断的新型人工智能加速芯片

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

KAIST于24日表示,电气及电子工程学部尹灿贤、金周英教授研究团队设计了搭载抗噪声的多金字塔激活图注意力结构、用于处理可解释人工智能(XAI·eXplainable AI)技术的人工智能芯片,并在Samsung Electronics DS部门的支持下开发出可解释神经处理单元(EPU·Explainable neuro-Processing Unit)。

可解释人工智能是指能够提供人可以理解、可以信赖的解释的人工智能技术。以现有数学算法训练的人工智能存在偏向训练样例而不可信、或数千亿个参数无法为人所理解的问题,为解决这些问题,该技术被开发为能够说明人工智能为何推断出特定结果的判断依据。

可解释人工智能的特点在于,能够说明基于何种理由对人工智能的决策产生了较大影响,因而比现有人工智能更能保证准确性、公正性和可信性。

联合研究团队在多尺度及多物体特征提取结构即金字塔型神经网络结构中,实现了可综合解释影响推断结果的人工智能内部各神经层激活程度的人工智能模型,以及针对其加速处理进行特化的通道方向卷积运算并保持精度的EPU芯片。

在专用于多尺度及多物体特征提取的金字塔型人工智能模型中,要实现解释可视化,需要能够沿推断过程反方向从所有卷积层激活图中提取模型参数梯度的结构。

然而反向传播计算过程与以往为加速推断处理而设计的人工智能芯片不同,必须记忆此前的参数及状态,而在有限的片上存储容量以及将整个人工智能模型按特定用途定制(ASIC·Application Specific Integrated Circuit)实现方面存在物理限制。

此外,金字塔型结构的可解释人工智能模型为保证可解释性,需分别对N层激活图进行基于梯度的类激活映射可视化处理,存在提高复杂度的问题。而且即使输入中存在极小的噪声,类激活映射可视化解释也会完全改变,可解释人工智能模型可信度下降是一大问题。

KAIST电气及电子工程学部尹灿贤教授研究团队为解决上述问题,开发了融合可解释人工智能多激活图固有特性信息以生成全局注意力图的网络结构,以及为生成对输入图像噪声具有鲁棒性的模型的互学习方法,使可解释性指标相比基于单一激活图的注意力图生成技术最高提升约6倍。

同时,通过将多尺度各类注意力图的互补特性精细地重构为统一的注意力图,使其能够提供人可解读水平的精确可解释性。研究团队相关人士解释称,通过本次研究成果,预计可大幅提升在卫星影像等物体尺寸变化较大的图像分析中人工智能模型的可解释性。

KAIST电气及电子工程学部金周英教授研究团队为加速所提出的可解释人工智能模型,开发了除现有模型的推断和反向传播过程之外还能处理激活图生成的XAI核心,并提出可灵活分割并同时处理各类运算任务的多数据流方式。此外,利用激活图包含大量0值的特性,提出可跳过连续0的新型数据压缩格式,并开发支持该格式的加速单元,使芯片内部可处理的激活图最多增加10倍以上。

KAIST研究团队开发的EPU芯片可应用于光学卫星、全天候观测影像雷达(Synthetic Aperture Radar)卫星等特殊用途及高精度人工智能影像处理系统,预计能以低延迟、低功耗大幅提升对人工智能系统判断依据的可解释性。研究团队计划开展EPU芯片开发的后续研究。

阅读韩文原文