一项可防止人工智能(AI)模型中已删除的个人信息或侵犯著作权数据,仅经少量再训练便重新复活问题的技术已被开发出来。
蔚山科学技术院(UNIST)21日表示,人工智能研究生院教授尹圣焕与产业工学系教授朴赛罗姆共同研究团队开发出机器遗忘技术“Spotter”,该技术可仅挑出AI已学习的特定信息予以删除,同时保护与删除对象相似的正常信息。
机器遗忘是指从训练完成的AI模型中,选择性地仅移除特定数据或概念所产生影响的技术。可用于在人脸识别AI中删除申请删除者的面部信息,或移除训练数据中所含的个人信息、有害内容、侵犯著作权资料等。此前的技术存在“过度遗忘”问题,即不仅删除目标对象,还会连同与之相似的正常信息一起删除。例如,从AI模型中删除关于猫的信息后,形态相似的老虎或豹的识别准确率也会随之下降。
另一局限在于,已删除信息的特征仍残留在AI模型内部,可通过再训练被恢复。攻击者只需重新输入几张与删除对象相关的照片,就能基于残留特征恢复原本已被抹去的识别能力。研究团队向应用现有遗忘技术的AI模型输入5张删除对象照片进行再训练,结果该对象的识别准确率从71.10%最高恢复至99.98%。
Spotter被设计为可与现有遗忘技术额外结合的插件形式。预计将应用于人脸识别系统的身份信息删除,以及生成式AI的个人信息、著作权侵权、有害内容移除等。Spotter在防止正常信息识别性能同时下降的同时,还使攻击者即便获取少量照片,也难以重新找出删除对象的共同特征。结果,Spotter将删除对象的识别准确率降至0%。在使用5张照片进行再训练攻击后,准确率也仅为0.24%。未删除的其余类别识别准确率则维持在99.96%。
此次研究成果已被国际机器学习会议“ICML 2026”收录。






