Personal Information Protection Commission就Meta、NAVER集团等大规模语言模型(LLM)开发商强化个人信息处理提出改善建议。
韩国个人信息保护委员会28日表示,其27日召开全体会议,议决对OpenAI、谷歌、微软、Meta、NAVER集团、Wrtn等6家企业提出改善建议,要求其补足个人信息保护方面的薄弱环节。
随着超大规模、生成式AI服务扩散引发隐私侵害担忧,个人信息保护委员会自去年11月起与韩国互联网振兴院一道,对主要AI服务展开事前实况检查。检查结果显示,各企业大体满足了个人信息处理方针公开、数据预处理、保障信息主体控制权等个人信息保护法上的基本要求。不过,个人信息保护委员会说明称,在△对公开数据中所含个人信息的处理 △用户输入数据等的处理 △个人信息侵害预防与应对措施及透明度等方面,发现了部分不足之处。
AI服务提供商收集互联网上公开的数据用作AI模型学习数据,检查结果发现,该过程中可能包含居民登录号码、信用卡号等韩国信息主体的重要个人信息。据个人信息保护委员会介绍,以去年为准,有20999个页面暴露了居民登录号码、护照号码等。OpenAI、谷歌、Meta已将个人信息集聚网站排除于AI模型学习之外,删除了学习数据中的重复及有害内容,并使AI模型不对个人信息作出回答。但经确认,事先从学习数据中剔除居民登录号码等主要识别信息的措施尚不充分,个人信息保护委员会因此要求按AI服务提供的各阶段强化保护措施。个人信息保护委员会表示:“计划向AI服务提供商提供已探测到我国国民个人信息在互联网上暴露的数据(URL),以便至少在预训练(pre-training)阶段剔除主要个人识别信息等。”
基于LLM的AI服务提供商为使AI模型作出准确回答,投入大量审核人力直接查阅、审核并修改用户提问及AI模型的回答内容以构建数据集,并将其用于AI模型学习及提示词等服务改进。但个人信息保护委员会认为,从用户角度难以知晓“人工审核”过程本身,若用户输入个人信息及电子邮件等敏感内容,或AI服务提供者未采取剔除个人信息等措施便将该信息数据库(DB)化,则可能侵犯隐私。个人信息保护委员会建议,如以改进AI模型等为目的对用户输入数据进行人工审核,须明确告知用户相关事实,并提高相关功能的可及性,使用户能够便捷地移除、删除输入数据。
此外,检查还发现,在以LLM复制模型或开源形式分发的情况下,即便发现LLM存在漏洞,后续措施也难以立即落实改进。即便是基于同一LLM的AI服务,因企业不同,对个人信息及儿童、敏感信息的回答等侵害预防措施程度也存在差异。个人信息保护委员会建议,应就个人信息处理方针等作出具体说明,并必须包含对不当回答的举报功能,同时具备在发现AI服务及LLM漏洞时可迅速处置的流程。还发现有未经验证程序便向未满14岁人群提供AI服务的案例,但在检查过程中均已改善。
个人信息保护委员会表示:“将尽快结束对AI服务的事前实况检查”,“为顺应AI技术与产业变化、安全保护信息主体的个人信息,还计划推进持续监测、制定AI相关六大指南等政策方向、开发与推广个人信息强化技术(PET)等后续措施。”






