2025-07-24 | 김성태 기자

“挑战国家代表AI”Kakao集团公开多模态与MoE AI模型……强调自主技术实力

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

Kakao集团(035720)在韩国国内首次以开源形式公开轻量化多模态AI模型与专家混合(Mixture of Experts·MoE)模型。Kakao集团强调,该模型在韩国国内公开模型中展现最佳性能,再次证明其自主AI技术开发能力。参与政府推进的“自主AI基础模型项目”的Kakao集团表示,将以开发能力及运营KakaoTalk等大规模服务的经验为基础,提升全民AI可及性,为增强国家AI竞争力作出贡献。

Kakao集团24日表示,已通过Hugging Face以开源形式公开△具备图像信息理解及指令执行能力的轻量化多模态语言模型“Kanana-1.5-v-3b”与△MoE语言模型“Kanana-1.5-15.7b-a3b”。

“Kanana-1.5-v-3b”是不仅能处理文本、还能处理图像信息的多模态语言模型。据Kakao集团介绍,该模型具备准确理解用户提问意图的高水平指令执行性能,以及出色的韩语、英语图像理解能力,可灵活应用于△图像及文字识别△童话与诗歌创作△韩国国内文化遗产及旅游景点识别△图表理解△数学解题等多个领域。

Kakao集团强调,Kanana-1.5-v-3b虽为轻量化模型,但对以图像呈现的韩语与英语文档的理解能力十分出色,可与全球多模态语言模型GPT-4o相媲美。在韩语基准测试中,与同等规模的韩国国内外公开模型相比取得最高分;在多种英语基准测试中与海外开源公开模型相比也呈现相近水平的性能。在指令执行能力基准测试中,相较韩国国内公开的同等规模多模态语言模型,性能达到128%水平。Kakao集团解释称,通过反映人类偏好的学习与知识蒸馏,最大化了“Kanana-1.5-v-3b”的性能。

Kanana-1.5-15.7b-a3b采用仅激活针对特定任务优化的部分专家模型的方式,优势在于高效利用计算资源与降低成本。约157亿个参数中仅激活约30亿个执行推理。Kakao集团解释称,该模型采用升级再造(upcycling)方式开发。升级再造是复制现有神经网络层并将其转换为专家层的方式。该模型性能可与“Kanana-1.5-8B”相当。Kakao集团期待该模型将成为希望以低成本实现高性能AI的企业及研究人员的实用替代方案。

Kakao集团表示,将通过此次轻量化多模态语言模型与MoE模型的开源公开,为AI模型生态提出新标准,并打造让更多研究人员与开发者可自由使用高效强大AI技术的基础。下半年还将公开对实现智能体型AI必不可少的推理模型成果。此外,还计划持续升级基于自主技术的模型,通过模型规模扩展挑战开发全球旗舰级超大规模模型,为增强韩国国内AI生态的自立性与技术竞争力作出贡献。

Kakao集团 Kanana绩效负责人金炳学表示,“此次开源公开取得了成本效率与性能方面有意义的技术开发成果”,“这超越了单纯模型架构的进步,是符合服务应用与技术自立两方面目标的成果”。

阅读韩文原文