2026-09-13 | 조윤진 기자

“那不对”…AI不用说也能察觉并纠错

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

无需用户告知便能自行察觉并纠正行为的人工智能(AI)已被开发出来。其原理是识别用户的脑波,当AI的行为与用户意图不符时,AI实时自行修正行为。

据韩国科学技术院(KAIST)12日消息,KAIST神经科学-AI融合研究中心主任兼脑认知科学系讲座教授李相完近期通过与微软亚洲研究院的国际合作,开发出“神经价值对齐(NVA)”。NVA是利用人类脑波实时使AI与人类目标保持一致的下一代脑机接口(BCI)技术。

研究团队表示,AI要与人自然协作,必须准确把握人实际想要什么。例如,若人做出拿杯子的动作,就要能判断这一行为是为了喝水,还是想把杯子递给别人。因此,当AI误解行为意图时,用户此前不得不重新下达指令或纠正其行为。

为解决这一问题,研究团队关注了人在遭遇与预期不同的情况时,大脑无意识产生的预测误差。即观察当AI做出错误行为时,人瞬间产生的反应,也就是产生“不是这样”的念头时大脑如何反应。据研究团队介绍,这种反应大致分为AI误解了人的最终目标本身时出现的“奖赏预测误差(RPE)”,以及目标正确但行为过程或方式与预期不同时出现的“状态预测误差(SPE)”。

研究团队在此基础上应用深度学习,开发出仅凭脑波即可判别人如何看待AI行为的技术。即便人不直接说“错了”,AI也能通过脑波察觉到目标或反应有误。团队还提出了将这样读取的脑信号实时传递给AI、使其自行修正行为的“基于神经价值对齐的人-AI协同”算法。

模拟结果显示,在人的目标突然改变或部分信号缺失等不确定情况下,AI比现有方式更快适应人的意图变化。

KAIST相关人士解释:“本次研究的核心在于,展示了即便人不必不断告诉AI‘这样做’‘不是那样’,AI也能读取人的无意识脑反应并自行修正行为的可能性”,“今后技术发展后,可用于家庭或产业现场的物理AI机器人更自然地把握用户意图并调整行为。”

李教授表示:“其意义在于,摆脱了AI仅凭可见的行为结果推测人类意图的既有方式,展示了可将行为背后产生的大脑认知信号直接用于与AI的协作。”

阅读韩文原文