一款无需将敏感数据直接发送至服务器即可帮助生成高质量图像的超轻量人工智能模型问世。这为在患者MRI、CT分析等对个人信息保护要求较高的环境中安全使用高性能生成式AI开辟了道路。
蔚山科学技术院(UNIST)人工智能研究生院刘在俊教授团队9日表示,已开发出联邦学习AI模型PRISM(PRivacy-preserving Improved Stochastic Masking)。
联邦学习是指不将含敏感信息的数据直接上传至服务器,而由各设备上的“本地AI”进行学习,再仅汇总其结果以构建一个“全局AI”的技术。
PRISM是在联邦学习过程中连接本地AI与全局AI、发挥学习中介作用的AI模型。该模型比现有模型平均减少38%的通信成本,体积缩小48%,为1-bit级别的超轻量型,可在智能手机、平板电脑等小型设备的CPU或内存上无负担运行。
此外,即使在各本地AI所持数据与性能差异较大的情况下,它也能准确判断并协调应更多信任和采纳哪个本地AI的信息,因此最终生成物的质量较高。
以往把“自拍”变成吉卜力风格时需要把照片上传到服务器,存在个人信息侵犯隐忧;而使用PRISM,所有处理都在智能手机内完成,既可防止隐私侵犯,又能快速获得结果。不过,在智能手机上直接生成图像的本地AI模型仍需另行开发。
以实际用于AI性能验证的数据集MNIST、FMNIST、CelebA、CIFAR10进行实验的结果显示,通信量少于现有方式,而图像生成质量更高。特别是在使用MNIST数据集的追加实验中,还确认了与主要用于生成吉卜力风格图像的扩散模型的兼容性。
研究团队没有采用共享全部信息的大容量参数方式,而是采用仅筛选共享重要信息的二值掩码方式,提高了通信效率。此外,还通过精细评估生成质量的损失函数(MMD,Maximum Mean Discrepancy)以及对各本地AI贡献度作差异化汇总的策略(MADA,Mask-Aware Dynamic Aggregation),解决了数据偏差与学习不稳定性问题。
刘在俊教授表示:“不仅是图像,还可应用于文本生成、数据模拟、自动文档化等多种生成式AI领域”,“将成为医疗、金融等处理敏感信息领域中有效且安全的解决方案。”
本次研究与延世大学韩东准教授共同完成,UNIST研究员徐京国作为第一作者参与。
研究成果被世界三大人工智能学会之一的ICLR(The International Conference on Learning Representations)2025录用。2025 ICLR将于4月24日至28日在新加坡举行为期5天的会议。研究得到了韩国科学技术情报通信部韩国研究基金会、信息通信规划评价院、UNIST超级计算中心的支持。






