2026-07-07 | 김지영 기자

Nota为引入AWS AI芯片企业提供轻量化与优化支持

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

人工智能(AI)模型轻量化、优化技术企业Nota于7日表示,将在亚马逊云科技(AWS)的AI专用芯片环境中,为企业客户提供轻量化及调优服务,以最大化AI模型性能。

该服务的主要客户是正在考虑引入AWS自主设计的AI训练专用芯片AWS Trainium,以及为以低成本提供高性能推理而设计的AI推理专用芯片AWS Inferentia的企业客户。作为AWS认证合作伙伴,Nota基于自家平台NetsPresso推出AI模型调优服务,该平台支持从AI模型轻量化到按硬件进行最优部署的全流程。NetsPresso是可将AI模型体积最多缩减90%以上同时保持精度的轻量化与部署自动化平台,以单一工作流提供面向各类硬件环境的模型优化。服务由技术验证(PoC)及诊断、模型移植及轻量化、性能调优等阶段构成,帮助客户的AI模型在AWS AI芯片环境中以最高效率运行。

AWS Trainium与Inferentia是Anthropic、苹果、Databricks、优步、理光、Decart等全球领先企业正在使用的经过验证的AI芯片。Nota的服务重点在于帮助客户将性能得到验证的AWS AI芯片快速应用于自身工作负载。

此前,Nota已在AWS Trainium及Inferentia环境中积累了大规模语言模型调优经验。将Nota的轻量化技术应用于320亿参数规模的高性能语言模型,实现了模型体积缩减68%,同时精度损失保持在1%以内。

Nota首席执行官蔡明洙表示:“AWS AI芯片提供出色的性价比,Nota通过模型调优支持,帮助客户在自家模型中完整发挥这些AWS芯片的性能”,“将为考虑引入基于AWS AI芯片基础设施的企业客户带来实质性的成本优化成果”。

阅读韩文原文