KT(030200)19日宣布,推出整合国产人工智能(AI)半导体与自主研发大语言模型(LLM)的主权AI设备,支持以单一设备构建和运营企业内部AI。预计将用于因网络隔离或安全问题难以引入海外生成式AI的公共、国防、制药、制造、金融等受监管行业的AI转型。
“KT NPU LLM Station”是在韩国国内AI半导体企业Rebellions的推理专用神经网络处理器(NPU)“Atom Max”上搭载KT的LLM“Mi:dm K 2.5 Pro”及运营API平台的一体化产品。从AI半导体到模型和运营平台均由韩国国内技术构成,使客户可在内部处理数据与AI运算。此外,无需单独构建过程,安装后即可使用基于公司内部文档的问答(RAG)等AI功能。
KT决定今后陆续搭载会议记录撰写、编码支持、业务自动化代理“K-Clo”(暂定名)等自主研发的AI代理,还将与代理专业开发商合作,扩展为客户定制化构建业务。在面向物理AI的边缘数据中心,还将用于构建低功耗、低延迟的AI基础设施。
KT AX事业本部长李镇亨表示,“KT NPU LLM Station将KT的AX全栈能力与国产半导体相结合,使主权AI能够在实际产业现场立即使用”,“对于希望在守护数据主权的同时启动AI转型的企业和机构而言,这将是最现实的选择”。






