2025-09-25 | 서지혜 기자

LG U+基于EXAONE 3.5开发端侧sLM

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

LG U+ 25日表示,已与LG人工智能(AI)研究院、Opt AI携手,开发出基于大型语言模型(LLM)“EXAONE 3.5”的端侧sLM。LG U+计划将该模型应用于AI通话应用“ixi-O”,用于提升服务水平。

此次端侧sLM开发以LG AI研究院去年12月推出的“EXAONE 3.5 2.4B”模型为基础。LG U+、LG AI研究院与端侧AI解决方案企业Opt AI历时约6个月研究,成功完成开发。将AI模型轻量化的“端侧”技术,对AI服务普及及安全性提升至关重要。一般LLM须经由网络和服务器运行,在安全性、速度和可接入性方面存在局限,而以端侧sLM实现后,用户数据无需经过外部网络或服务器,直接在自己的智能手机内运行,安全性得以增强。由于通过手机内的NPU(神经网络处理单元)提供答复,响应速度快,并可在各类终端上使用。

LG U+计划将以端侧sLM开发的EXAONE应用于“ixi-O”,提升服务水平。现有ixi-O所采用的端侧AI技术使用中央处理器(CPU),而采用基于NPU的端侧sLM后,性能相同,但功耗比原有减少78%,模型体积减少82%。此外,鉴于EXAONE在韩语处理能力方面性能优异,预计将与ixi-O提供的通话摘要及通话内容转文字等功能产生协同效应。

实际上,LG U+计划将基于EXAONE的端侧sLM应用于ixi-O,推进一句话摘要、详细摘要、关键词提取、AI Task建议等功能升级。将于今年10月通过beta测试完成稳定性及质量验证,最快明年上半年实现商用化。

基于EXAONE的端侧sLM将搭载于采用高通(Qualcomm)“骁龙8”芯片组的智能手机。明年将把适用范围扩大至搭载iOS操作系统的智能手机。此外,LG U+、LG AI研究院和Opt AI还将通过持续开发端侧AI技术,把今年7月推出的“EXAONE 4.0”也实现为端侧sLM。其战略是借此把基于端侧sLM的ixi-O所提供的服务发展为个性化定制服务。

阅读韩文原文