以较少资源和较低成本大幅提升人工智能(AI)性能的所谓“AI性价比”,成为新年全球业界的核心竞争力。随着图形处理器(GPU)与电力成本、针对高性能AI的监管负担加大,小型、轻量化AI需求作为替代方案不断上升。一年前凭性价比竞争力引发“DeepSeek冲击”的DeepSeek,年初便展示新技术意图掌握主导权,国内外竞争对手也以相关应对抢占需求。
据全球市场调研机构CB Insights 4日数据,去年全球参数量不足300亿的小语言模型(SLM)开发商平均“Mosaic Score(评分)”为754分,比2024年上升29分。该机构解释,这已接近大语言模型(LLM)的779分。由CB Insights与美国国家科学基金会(NSF)共同开发的Mosaic Score,是为评估非上市初创企业投资价值,综合考察业务成果、融资情况、管理层能力等市场竞争力的指标。分析认为,在以LLM为主的AI市场,SLM如今也已成为被同样活跃采用的主流技术。
这得益于LLM所需GPU与电力等成本负担加大,SLM因而成为替代方案。LLM作为高性能AI,很可能成为欧盟(EU)《AI法案》、韩国《关于AI发展与信赖基础营造等的基本法》(AI基本法)等AI监管的对象。在物理AI时代,作为适合搭载于机器人、无人机等的端侧(内置型)AI模型,SLM需求也在扩大。信息通信规划评价院(IITP)院长洪振培表示:“竞争轴心正从单纯规模转向如何高效使用AI”,“预计市场将分化为大型模型与小型端侧模型并各自发展。”
业界正争相通过包括SLM在内、在保持既有模型性能的同时缩小规模的轻量化模型,以及能以较低成本训练数据的高效学习法等新技术,提升AI性价比。代表者是DeepSeek。该公司在公开“R1”模型约一年后的上月31日(当地时间),推出了新学习法“流形约束超连接(mHC)”。其称模型资源仅增加6.7%即可大幅提升性能。后续模型“R2”的发布也已临近。
Moonshot AI近期通过C轮融资从阿里巴巴、腾讯等处获得5亿美元(7200亿韩元)。该公司在去年年末公开的模型“Kimi K2 Thinking”,据称训练成本仅460万美元(66亿韩元),低于DeepSeek(560万美元)。MiniMax与智谱AI正推进在香港上市。此前MiniMax称,其模型“M2”的推理速度比Anthropic的“Claude Sonnet”快2倍,但使用费仅为8%。法国Mistral上月公开小型模型“Ministral 3”,以30亿至140亿参数即可支持图像分析等多模态功能。
在韩国,上月30日首次公开的国家代表AI模型“自主AI基础模型”搭载了相关新技术。NAVER集团公开了韩国首个全模态模型,仅以80亿参数就能整合学习文本、图像、视频等多种数据并实现高性能。Upstage推出了将训练周期从原先120天缩短至66天、缩短逾40%的技术。LG AI研究院与NC AI也如DeepSeek一样采用按需仅激活部分参数以降低运营成本的专家混合架构(MoE)。推出5000亿参数超大模型的SK电讯则以此自任向小模型输送知识的“教师模型”角色。
Nota于上月30日签约在Samsung Electronics的移动应用处理器(AP)“Exynos 2600”上搭载优化技术,SqueezeBits近期也推出了提供AI轻量化的服务“Fetter”。应对AI性价比的另一支柱,是开发在每瓦性能(能效比)上优于GPU的神经网络处理器(NPU)。DeepX于上月8日推出面向大规模视频的低功耗NPU“DX-H1 V-NPU”。搭载该产品的端侧AI设备在美国消费电子展(CES)上获得创新奖。FuriosaAI第二代NPU RNGD的能效比约为英伟达GPU“H100”的2.7倍。






