韩国国内研究团队查明,谷歌与DeepSeek等采用的人工智能(AI)新技术“混合专家(MoE)”可能被滥用为新的黑客攻击通道。
韩国科学技术院(KAIST)26日表示,电气与电子工程学部教授申承源与计算机学部教授孙洙埃尔研究团队在世界上首次查明了可滥用MoE结构、严重损害大规模语言模型(LLM)稳定性的攻击手法。该研究成果在信息安全领域最具权威的国际学会“年度计算机安全应用会议(ACSAC)2025”上获得“最佳论文奖”。
MoE是将多个被称为“专家”的小型AI模型合并构成LLM的方式。各专家分别学习特定领域知识。根据用户的提问或指令,由具备相应领域专业性的专家出面回答或执行指令,通过这种分工方式提高LLM效率。今年初引发革新的DeepSeek“R1”,以及谷歌“Gemini”等大型科技企业模型也采用了MoE。
研究团队证明,即使黑客不直接接入LLM内部,只要有一个被恶意操纵的专家模型,也可利用它诱导整个LLM生成危险回答。也就是说,只要在正常的AI专家中感染其中一个、使之成为恶性专家,该专家就会被反复选中,从而存在整个AI安全性崩塌的漏洞。
研究团队通过实验确认,这种攻击手法可将LLM的有害回答发生率从原有的0%提高至最高80%,且多个专家模型中仅有一个被感染,整个模型的安全性也会大幅下降。
研究团队强调,今后在AI模型开发过程中,必须对MoE模型的来源和安全性进行验证。申教授与孙教授表示,“通过此次研究实证确认,为提高效率而快速扩散的MoE结构可能成为新的安全威胁”,“此次获奖是人工智能安全重要性获得国际认可的有意义成果”。






