在删除人工智能(AI)所学习的敏感个人信息或侵犯著作权的数据时,既能保留正常信息、又能防止已删除信息被再次复原的新型“记忆橡皮”技术,由韩国研究团队开发成功。
蔚山科学技术院(UNIST)人工智能研究生院尹成焕教授团队与产业工学系朴赛罗姆教授团队21日表示,已开发出机器遗忘(Machine Unlearning)技术“Spotter”,该技术可保护与待删除信息相似的正常信息,并从根本上阻断仅用几张待删除照片就使识别能力复活的攻击。
机器遗忘是一种从已完成学习的AI中,仅有选择地消除特定数据或类别所产生影响的技术。在人脸识别AI中删除特定人物的面部信息,或去除学习数据中包含的有害内容时,该技术不可或缺。但现有技术存在局限:会连同与被删除信息相似的正常信息识别率一并降低的“过度删除(Over-Unlearning)”,以及被删除信息仅凭少量数据即可复活的“再学习攻击(Relearning Attack)”。
例如,若从AI模型中删除关于“猫”的信息,就会出现与其外形相似的老虎或豹的识别准确率也一同下降的副作用。此外,用于识别猫的特征仍以聚簇形式残留在AI内部,只要再展示5张猫的照片,被删除的识别能力便会瞬间复原。
研究团队新提出的Spotter,其原理是稳定维持删除对象周边的决策边界,防止正常信息受损,同时打散删除对象的特征表达,从而消除其内部结构本身。特别是它被设计为可轻松结合到现有遗忘方法中的插件(Plug-and-play)形式,能够快速应用于实际服务环境。
Spotter在多种环境下都验证了压倒性的防御与保留性能。以小型图像数据集CIFAR-10进行实验的结果显示,Spotter将删除对象的识别准确率完美降至0%。在利用5张照片的再学习黑客攻击之后,也将识别准确率抑制在0.24%,阻断了复原,同时对未删除的其余类别保持了99.96%的准确率。相比之下,现有遗忘技术在相同攻击之后,对删除对象的识别准确率最高恢复至99.98%。
在大型图像数据集Tiny ImageNet以及实际人脸识别数据集CASIA-WebFace上,也确认了类似的性能改善。在人脸识别数据中,删除500人的信息后,过度删除指标相较现有技术从0.5023大幅降至0.0201。攻击后将删除对象的准确率防御在7.12%,同时将其余人物的识别准确率出色地保持在98.89%。
联合研究团队期待表示:“为弥补遗忘技术盲区而开发的Spotter被设计为可轻松结合到现有遗忘方法中的插件(plug-and-play)形式,有望广泛应用于人脸识别、有害内容删除等重视个人信息保护的AI服务。”
另一方面,此次研究成果被人工智能领域全球最具权威的国际学术会议“国际机器学习大会(ICML 2026)”录用,在世界范围内证明了技术的优秀性。今年的ICML于7月6日至11日在首尔举行。该研究由韩国科学技术情报通信部和韩国研究财团(NRF)等的中坚研究事业及超大规模产业AI研究支援事业提供支持完成。






