韩国信息通信技术协会(TTA)2日表示,将提供可验证国内人工智能(AI)模型安全性的“AI安全测试服务”。
AI安全测试服务是对AI模型从设计到数据采集与处理、模型开发、系统实现、部署与运营等所有阶段的安全要求进行测试,并将结果以具有公信力的成绩单和结果报告形式发放的服务。
测试内容包括数据采集及预处理阶段的个人信息和敏感信息去标识化、防止数据污染,学习阶段的对抗性攻击防御、防止模型伪造篡改,以及部署和运营阶段的API安全、模型访问控制、完整性验证等。
TTA借此弥补了现有安全解决方案难以有效应对体现AI模型特殊性的安全威胁这一不足。今后计划通过扩大测试领域、按AI安全影响程度设计等级,进一步升级该服务。
TTA会长孙承贤表示:“为实现AI技术的安全普及,除技术发展外,确保安全方面的信任必不可少”,“希望通过AI安全测试服务将国内AI产业整体的安全水平提升一个层次,并最终为实现AI三大强国目标、营造可信赖的AI创新生态系统作出贡献”。






