2025-04-09 | 서지혜 기자

我的脸不上传服务器也能吉卜力化……“隐私保护AI”登场

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

近来,把自己的照片上传到ChatGPT生成知名动画风格图像并分享的玩法大为流行。与此同时,因照片和个人信息被随意上传而引发的肖像权侵害担忧也在加大。

UNIST人工智能研究生院刘在俊教授研究团队开发并公布了一种超轻量人工智能模型,可在不将个人照片等敏感数据直接发送至服务器的情况下生成高质量图像,以缓解上述担忧。利用该技术,在患者MRI、CT分析等对个人信息保护要求较高的环境中,也可安全使用高性能生成式人工智能(AI)。

刘教授研究团队开发的联邦学习AI模型“PRISM(PRivacy-preserving Improved Stochastic Masking)”,是在联邦学习过程中充当连接本地AI与全局AI的学习中介者的AI模型。联邦学习是指不将含敏感信息的数据直接上传至服务器,而由各自设备上的“本地AI”进行学习,再仅汇总其结果以构建一个“全局AI”的技术。PRISM的体积仅为现有模型的48%,可在智能手机、平板电脑等小型设备的CPU或内存上无负担运行,并且通信成本平均比现有模型降低38%。此外,即使各本地AI所持数据和性能差异较大,它也能准确判断并协调应更信赖并采纳哪个本地AI的信息,因此最终生成物质量较高。

尤其是,PRISM有望在近来通过ChatGPT流行的照片转换服务中大显身手。要把自己的照片转成动画风格需将照片上传至服务器,这会带来个人信息侵害隐忧。但使用PRISM时,所有处理都在智能手机内完成,既可防止隐私侵害,也能更快获得结果。不过,在智能手机上直接生成图像的本地AI模型开发今后仍需另行进行。

研究团队没有采用共享全部信息的大容量参数方式,而是应用只筛选共享重要信息的二值掩码方式,提高了通信效率。同时,通过精细评估生成质量的损失函数(Maximum Mean Discrepancy·MMD)以及对各本地AI贡献度差异化汇总的策略,解决了数据偏差和学习不稳定性问题。刘教授表示:“不仅是图像,还可应用于文本生成、数据仿真、自动文档化等多种生成式AI领域”,“在医疗、金融等处理敏感信息的领域,这将是有效且安全的解决方案。”本次研究与延世大学教授韩东准共同完成,UNIST研究员徐京国作为第一作者参与。

阅读韩文原文