Nota(486990)29日表示,已成功完成优化工作,使视觉语言动作(VLA)模型“SmolVLA 0.45B”能够在高通最新的边缘(现场部署)人工智能(AI)设备“Dragonwing IQ-9075”上运行。
VLA模型是需要同时处理图像识别、语言理解与动作生成过程的高运算量模型。它由理解摄像头所见场景、解读人的指令、进而生成机器人动作等多个阶段构成。
Nota保留了其中前端的识别与理解阶段,以生成实际机器人动作的最后阶段为中心进行优化。为此,公司应用了减少机器人动作生成阶段重复运算的实时推理优化,以及依照高通边缘AI设备运行环境提升运算流程效率的基于神经网络处理器(NPU)的图优化。
优化工作的结果是,机器人动作生成阶段动作头的处理时间从218毫秒(ms)缩短至31ms,减少约85.8%,速度最高提升约7倍。整体推理时间也从505ms缩短至310ms。任务成功率则从原有的86%变为85%,保持相近水平。
Nota代表蔡明洙表示:“要让物理AI扩散到产业现场,AI观察、理解实际环境并将其转化为行动的过程必须能在边缘AI设备上快速稳定地处理”,“本次VLA优化成果是一个有意义的案例,表明Nota的AI优化技术可以扩展为物理AI时代的核心基础技术。”






