2025-07-28 | 김동호 기자

Makebot在全球最权威AI学术会议发布LLM、RAG创新技术

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

AI聊天机器人专业企业Makebot(代表理事金志雄)28日表示,公司在全球最高权威的AI学术会议“SIGIR 2025”上发布了将LLM(大规模语言模型)与RAG(检索增强生成)技术相结合的创新“HybridRAG”框架。SIGIR是AI与信息检索领域最具权威的学术会议,今年在意大利帕多瓦举办。此次研究由金志雄代表设计LLM·RAG引擎并主导,与汉阳大学共同进行,被视为证明Makebot技术实力达到全球水准的成果。 - 开发克服既有RAG技术局限的LLM基础创新技术 Makebot开发的“HybridRAG”是为解决既有RAG(Retrieval-Augmented Generation,检索增强生成)技术与LLM(Large Language Model,大规模语言模型)所存在的根本性问题而开发的创新技术。既有RAG技术是用户每次提问都要检索文档、再由LLM生成回答的方式。因此存在回答速度慢、LLM使用成本高、无法准确理解复杂文档(如包含财务表、图表的报告等)的问题。Makebot的HybridRAG技术为解决此类RAG系统问题采取了完全不同的方式:预先分析文档,用LLM生成并存储预期的问题与答案,用户提问时可快速找到最合适的回答。原理就如同考试前预先准备预测题和标准答案。尤其对表格、图形等复杂视觉资料,LLM也能准确解读并以自然语句说明,因此在财务、法务等专业领域文档处理上相比既有RAG显示出巨大优势。 - 提出克服计算资源局限的“韩国式AI创新模式” 此次HybridRAG技术作为创新解决韩国AI产业所面临根本课题的案例受到关注。此前一直有人担忧韩国AI产业生态落后于美国等发达国家,这主要源于认为需要GPU、云等庞大计算资源的认知。Makebot的HybridRAG展示了颠覆这一固有观念的方法。通过将实时LLM调用最小化并采用高效的预生成方式,证明了即使使用较少计算资源也能实现出色性能。这可以说是以创造性效率克服资源局限的典型“韩国式创新模式”。金志雄代表解释称:“比起在算力上与全球大型科技企业竞争,以实用高效的方式创造更好的成果才是我们的优势”,“HybridRAG正是这种理念的产物”。 - 通过LLM领域持续研发引领技术 Makebot在LLM领域申请了数十项专利,持续并行技术开发与学术研究。此次SIGIR 2025发布是展示Makebot并非单纯的服务提供商,而是拥有原创技术的研发型企业的代表性案例。尤其Makebot以实际商业现场积累的数据和经验为基础开展具有学术价值的研究,其结合理论与实务的差异化研究能力获得认可。这被视为国内AI企业获取全球竞争力的新模式。 - HybridRAG性能验证结果:相比既有RAG技术大幅改善 Makebot通过国际标准评价方法验证了HybridRAG的性能。在使用7个领域实际文档1261份和8498组问答对的测试中,Makebot的HybridRAG技术在各方面均优于既有RAG方式。在最重要的准确度指标上,比既有RAG方式提升26.6%。表示回答完整度的各项指标也均有改善,响应速度提升6.2%。在LLM使用成本方面也实现创新:生成超过13万条问答总共仅花费24.50美元(约3.5万韩元),确认可以每个问题0.02美分(约0.03韩元)的经济成本运营。这意味着相比既有RAG方式可大幅节省LLM运营费用。 - Makebot的LLM·RAG技术实力获世界舞台认可 此次在全球顶级AI学术会议上发布HybridRAG,是展示Makebot的LLM·RAG技术实力达到全球水准的重要成果。Makebot此前向Korean Air Lines、CJ ONSTYLE、乐天七星、韩国电力公社、韩国旅游发展局等国内主要企业提供基于LLM的AI聊天机器人服务,并以积累的经验为基础持续推进RAG技术创新。尤其在公共机构领域,向清州市、富川市等数十个地方政府以及济州特别自治道开发公社、韩国旅游发展局、韩国环境部等提供基于LLM·RAG的聊天机器人服务,实现24小时民情处理自动化。即构建了市民随时提问、LLM即时生成回答的系统。在医疗领域,也向江南世佛兰斯医院、首尔大学医院等国内数百家医院及诊所供应基于LLM的AI聊天机器人。帮助患者通过聊天机器人便捷快速地完成预约或获取诊疗指引,大幅提升了医疗服务便利性;近期更超越简单预约或诊疗指引,将服务领域扩展至结合RAG·LLM的高级聊天机器人、医院行政业务自动化、个性化业务门户等,引领医疗健康领域整体的数字创新。 - “以实用的LLM·RAG解决方案引领全球市场” Makebot代表金志雄表示:“此次在全球顶级AI学术会议上发布HybridRAG,是展示Makebot的LLM·RAG技术实力达到世界水准的重要成果”,“我们专注于开发并非只在实验室适用的LLM技术,而是在实际现场真正有助于人们的实用RAG解决方案”。他还强调:“此次发布的HybridRAG技术目前已应用于韩国的实际服务,其LLM性能正接受验证;我们将与Makebot数十项LLM相关专利一同,在全球市场确保技术优势。” 另外,Makebot被选定为政府“超大规模AI生态构建”项目的供应企业,并入选韩国微软与Ministry of SMEs and Startups的支持计划,其LLM·RAG技术实力获得认可,海外扩张正在加速。

阅读韩文原文