Kakao集团将自主开发的人工智能(AI)模型“Kanana”的轻量语言模型(SLM)以开源形式公开。
Kakao集团28日表示,已在全球AI平台Hugging Face上以开源形式公开可在智能手机等设备环境中运行的Kanana-2系列SLM共4款。
近来AI业界日益重视可在智能手机或个人PC等环境中直接运行的轻量语言模型。全球企业将端侧(On-device)AI作为主要战略,或接连公开轻量开源模型,致力于抢占轻量AI生态。Kakao集团在这一趋势下持续研究具备可应用于实际服务水平性能的轻量语言模型。
此次公开的模型特点在于,尽管体积小,却在韩语和英语上均实现了全球水平的性能。与同等规模的最新(SOTA)开源模型相比,在韩语、英语、知识、数学、代码等多数代表性基准测试中取得优异成绩。特别是以开源公开的“Kanana-2-1.3B-Instruct”和体积更小的“Kanana-2-0.9B-Instruct”,在对话、知识、代码、数学、指令遵循、工具调用等实际服务应用能力上,也展现出与Qwen、Gemma等同级全球模型相当的竞争力。此外,应用Kakao集团(035720)自主开发的韩语专用分词器,使韩语处理效率比此前提升30%以上。
针对内存与运算资源有限的端侧环境进行优化也颇为引人注目。为解决处理长对话时内存占用急剧增加的问题,引入了“滑动窗口注意力”结构,由此在最长32K(3.2万个token,约2.4万个单词)长度的对话中也可将内存最多节省72.7%,同时保持稳定性能。
Kakao集团以允许商业利用的“Kanana开放许可”发布该模型。开发者、初创企业、研究机构等任何人均可无额外限制地使用该技术。预计这将有助于扩大国内高性能韩语AI模型的应用基础并推动新服务开发。
Kakao集团统一基础模型绩效负责人卢炳锡表示:“在迎接智能体AI时代之际,我们切实感受到云端大规模AI与端侧轻量AI二者的重要性”,“希望这些模型能推动更多开发者和企业开发新的AI服务,为激活国内AI生态作出贡献。”






