门户网站Daum的实时人工智能(AI)搜索摘要服务“AI Overview”将基于韩国企业开发的AI半导体和大规模语言模型(LLM)运行。这是韩国首个全栈主权AI商用化案例。
Upstage 15日表示,将与Daum运营商AXZ、AI半导体企业FuriosaAI携手打造全栈主权AI商用化案例。具体方式是在FuriosaAI第二代神经网络处理器(NPU)RNGD上搭载Upstage的LLM“Solar”,驱动Daum的AI Overview服务。从半导体芯片到AI模型,再到用户实际体验的服务,全领域均以韩国技术打通。
AXZ代表李建洙表示:“AI Overview重要的是基于实时信息提供最新资讯,而预先学习的知识可能引发幻觉”,“我们对LLM(Solar)进行了harness工程,使其不依赖此前学习的知识,只在我提供的信息范围内准确回答,从而只提供最新信息”。FuriosaAI代表白俊浩表示:“为处理AI摘要,投入3个节点、24颗芯片,每天处理5亿个token”,“连能将AI模型良好映射到加速器的编译器、实现最优服务的引擎等软件都自主开发,性能与英伟达H200相当”。据FuriosaAI介绍,采用RNGD时,相比图形处理器(GPU)成本至少节省1.5倍以上。
Upstage和FuriosaAI期待以此次合作为契机,扩大国产AI模型和半导体芯片的使用。Upstage代表金成勋表示:“使用Daum的AI Overview,就等于使用Solar和RNGD”,“希望大家多多使用我们开发的技术”。白代表也强调:“RNGD以与GPU相当的性能实现成本节约,希望企业在进行AI转型(AX)工作时积极考虑”。
李代表表示:“AI Overview目前约占整体查询规模的20%,计划逐步提高”,“将超越单纯摘要,向购物、美食搜索等垂直领域扩展,并正准备通过Daum向用户普及个性化的‘一人一智能体’”。






