KT推出超大规模人工智能(AI)“Mi:dm”。KT提供从轻量模型到超大型模型共4种模型,使企业能够根据自身规模和使用目的完全定制化使用。特别是KT计划以此次Mi:dm发布为契机,将企业专用大语言模型(LLM)商业化并发掘新的AI创新业务,集中开拓企业间交易(B2B)市场。
KT于31日在首尔瑞草区KT研发中心举行记者说明会,宣布超大规模AI“Mi:dm”正式发布。
KT向所有希望使用和训练超大规模AI的企业开放Mi:dm的基础模型(Foundation Model)。为此,KT将开设名为“KT Mi:dm Studio”的专用门户,为客户提供便捷的开发环境。基础模型是指以海量数据集训练而成的超大规模AI核心基础模型,OpenAI的自然语言处理模型GPT即为代表。为实现更复杂的技术或搭建系统,企业可按所需形式进行微调,从而打造多样的AI应用服务。不过,对于想使用超大规模AI但没有能力自行构建数十亿至数千亿参数模型的大多数企业而言,可以采用对已公开的基础模型进行调优后加以利用的方式。但除了安全顾虑外,现有商用基础模型还存在无法提供全量微调(FFT)的局限。KT顺应此类企业客户的需求,开放了自研基础模型Mi:dm。
此外,KT还将把“AI全栈”以定制化整合套餐形式一并提供,包括可将GPU训练成本较此前节省约27%的KT Cloud的HAC(Hyperscale AI Computing)服务,以及将推理成本较此前降低50%的Rebellions的NPU基础设施等。
KT Mi:dm的特点在于提供可信赖套餐(Reliable Package)。此前,被视为生成式AI广泛应用最大障碍的问题是“AI的幻觉回答”。为解决这一问题,KT开发了在检索、推理、回答各个阶段提升可信度的三项技术并应用于Mi:dm,分别是Document AI、Search AI和FactGuard AI。公司方面表示,由此可将幻觉现象较一般生成式AI服务最多减少近70%。
KT的70亿参数规模轻量模型在韩语LLM评测排行榜“Open Ko-LLM”中位居首位。“Open Ko-LLM”对历史扭曲、词素错误、幻觉、仇恨表达等广泛项目进行评估,并评估AI针对给定条件生成的结果是否符合韩语使用者的一般常识。
KT计划以此次Mi:dm发布为契机,专注于企业专用LLM商业化、发掘新AI创新业务等B2B市场。此后计划将超大规模AI业务领域扩展至全球、制造、金融、公共、教育五大领域,并通过面向初创企业的开放生态推进基于超大规模AI的业务创新。KT将与多家初创企业共同开发运用“Mi:dm”的AI商业模式并开拓国内及全球市场,其中企业专用LLM商业化方面为“Upstage”,教育领域为“Qanda”和“Enuma”,企业办公个人助理领域为“BI Matrix”。
据悉,在发布之前,金融界、地方政府、企业解决方案等100多家企业和机构已在与KT事先商讨运用Mi:dm。此前22日,KT宣布与泰国Jasmine集团合作,利用韩国自主研发的超大规模AI Mi:dm构建泰语大语言模型并推进东南亚共同商业化合作,证明了拓展全球市场的可能性。
另一方面,KT计划用“Mi:dm”升级AICC、Genie TV、AI通话助理等现有AI业务的人工智能,并将超大规模AI应用于KT的无线服务、IVI、机器人等实现商业化。此前的服务通过规则基础(Rule Based)模型只能提供既定回答,存在局限,而今后将在生成式AI的创造性回答之上叠加可信信息予以提供。
此外还将大幅改善内部业务流程和客户服务。实际上,在试点应用Mi:dm的KT呼叫中心,机器人识别率提升5%、后处理速度提升20%、知识构建速度提升30%,在多个方面显现性能改善效果。今后在金融与通信领域、Genie TV营销、老年人及育儿咨询等领域也将推进应用Mi:dm的业务流程改善。
KT AI/DX融合事业部门负责人、副社长宋在浩表示:“超大规模AI市场从全球大型科技企业到初创企业都在参与,正在发生急剧的数字创新。”并称“KT将开放差异化的超大规模AI模型,集中全部力量,助力韩国主导数字转型。”






