KAIST研究团队在全球首次开发出可实时学习并趋近用户语气、喜好乃至情感的所谓“灵魂伴侣”式人工智能半导体。
KAIST17日表示,人工智能半导体研究生院柳会峻教授研究团队开发出可根据用户特性自行进化的个人定制型大语言模型(LLM)加速器“SoulMate”。
该技术被评价为超越现有“面向所有人的AI”,将提前开启学习用户对话风格与偏好并作出反应的“只为我的超个性化AI”时代的核心半导体技术。
我们日常使用的ChatGPT等大语言模型(LLM)虽能熟练回答众多问题,却并不了解用户的细微习惯或此前的对话脉络。这正是人工智能虽已深入生活,却仍让人感觉像“外人”的原因。
研究团队开发的“SoulMate”,其核心是不经外部服务器(云)、在设备本身处理数据的端侧(On-Device)AI技术。研究团队将基于已记忆对话内容生成定制回答的检索增强生成(RAG)技术,以及即时反映用户反馈进行学习的低秩微调(LoRA)技术,直接在半导体内部予以实现。
由此,“SoulMate”以0.2秒(216.4毫秒)的惊人速度向用户作出响应,同时还能执行学习,实现了实时个性化AI系统。
此外,还应用了按信息重要度优化处理方式的混合秩(Mixed-Rank)架构,大幅降低了功耗。该半导体仅以9.8毫瓦的超低功耗——相当于智能手机处理器耗电量的1/500——即可同时执行复杂的学习与推理,因此在智能手机等移动设备上也可无需担心电量地运行。
尤其是实现了所有个人数据不向外部服务器传输、仅在设备内部处理的“安全自完备型AI”结构,从根本上阻断了个人信息泄露的担忧。
研究团队期待,该技术今后与智能手机、可穿戴设备、个人型AI设备等下一代平台结合,将开启真正的个性化人工智能服务时代。
柳会峻教授表示:“本次研究通过模仿人们相互建立友情的过程,为AI发展成为用户真正的同伴奠定了技术基础”,“未来的人工智能将超越单纯的工具,在完美保护个人隐私的同时,成为随时随地最了解我的‘最佳好友(Best Friend)’般的存在”。
由博士生研究员洪成渊作为第一作者参与的本次研究,在2月16日起于美国旧金山举行的国际固态电路会议(ISSCC)上被选为“亮点论文(Highlight Paper)”,受到全球学界关注。
研究团队在会议现场利用实际半导体芯片成功演示了回答风格随用户反应实时变化的效果,证明了韩国AI半导体技术的优越性。“SoulMate”AI半导体计划通过教授创业企业“OnNeuroAI”于2027年前后实现产品化。






