2025-07-30 | 울산=장지승 기자

开发以模拟危机情境提升AI协作能力的学习结构

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

飞行无人机联合包围敌方,或多台机器人协同作业的智能工厂技术,都离不开搭载于各个无人机、机器人上的人工智能(AI)智能体之间的协作。在恶劣天气或传感器故障的情况下,这种协作结构很容易崩溃。如今,一项通过制造强烈危机并让AI"预习",从而在实战中也能维持稳固协作体系的技术问世。

蔚山科学技术院(UNIST)人工智能研究生院韩升烈教授团队30日表示,已共同开发出逐步瓦解多智能体协作结构的人为故障攻击策略"狼群攻击(Wolfpack Attack)",以及将其用于训练的防御框架"WALL"。

强化学习是AI通过体验各种情境自行掌握行动策略的学习方式。在多个AI智能体协作的多智能体强化学习(MARL,Multi-Agent Reinforcement Learning)中,即使一个智能体出现问题,其余智能体也会加以弥补以维持整体性能。因此,仅靠随机干扰单一智能体的既有攻击方式难以准确评估协作体系的脆弱点,对传感器故障、天气变化、有意黑客攻击等现实危机情境的训练效果也很有限。

研究团队开发的"Wolfpack Attack"是先使一个智能体发生故障,随后对前来协助它的其余智能体连锁性地制造问题,从而使整个协作结构崩溃的方式。这一策略模仿了狼群成群孤立弱小个体、再依次制服前来救援的同伴个体的狩猎方式。

在该攻击模型中,基于Transformer的预测模型通过计算未来损失自动选择首次攻击时点,后续攻击对象则通过行动变化量分析出对协作性反应敏感的智能体并依次确定。

第一作者李善宇研究员解释称:"以往只是检验AI在既定情境下的运行效果,而这一攻击策略能够像现实那样制造情境持续变化、难以预测的危机状况,从而评估AI在其中的应对能力。"

一同开发的WALL(Wolfpack-Adversarial Learning for MARL)是将上述干扰策略引入AI训练环境的防御学习结构。实验结果显示,经WALL训练的AI在位置误差或通信延迟等情况下,仍能互不碰撞地抵达目标点,或共同推动物体并保持阵型,展现出较高的适应力和稳定的协作性能。

韩升烈教授解释称:"此次开发的技术可用于对协作型AI模型进行准确的性能评估,以及打造在危机情境中更为稳健的协作AI模型。""这将有助于自主无人机、智能工厂以及军事、灾难现场集群机器人产业的发展。"

本次研究得到了科学技术信息通信部与信息通信规划评价院(IITP)的"区域智能化创新人才培养项目"、"以人为中心的人工智能核心源头技术开发"以及"人工智能研究生院支持(蔚山科学技术院)"项目的支持。

研究成果被机器学习领域最权威的学术会议ICML(International Conference on Machine Learning)录用。7月13日至19日在加拿大温哥华举行的2025 ICML共收到全球约1万2107篇论文投稿,其中仅3260篇被录用。

阅读韩文原文