NAVER集团在韩国首次发布了防止丧失对超大规模人工智能(AI)控制力的应对体系。NAVER集团计划在与各国政府、企业共同开发主权AI的过程中彻底体现文化多样性。
NAVER集团17日表示,已公开在开发和部署AI系统各个阶段识别、评估、管理AI潜在风险的应对体系“NAVER集团 ASF(AI Safety Framework)”。
NAVER集团将AI系统可能带来的风险定义为“控制力丧失风险”和“滥用风险”,并设计了应对方法。为缓解控制力丧失风险,通过“AI风险评估量表”定期评估和管理AI系统的风险。特别是将现存最高性能的AI系统定义为“前沿AI”,对处于该技术水平的AI系统每3个月进行一次风险评估。此外,若系统能力比原有急剧提升6倍以上,将在该时点进行追加评估。
NAVER集团对滥用风险则适用“AI风险评估矩阵”加以应对。AI风险评估矩阵根据AI系统的使用目的和安全措施必要性程度,以不同方法管理风险。例如,用于生化物质开发等特殊目的的AI系统仅提供给具备特别资格的用户。对安全措施必要性较高的AI系统,在通过追加的技术性、政策性安全措施缓解风险之前不予部署。
在与海外政府、企业共同开发主权AI的过程中,还将识别在特定文化圈可能出现的AI系统风险,并结合文化圈特性高度化衡量风险程度的基准。主权AI指国家或企业利用自有基础设施和数据构建独立AI能力。
NAVER集团代表崔秀妍表示:“通过开发‘HyperCLOVA X’这一主权AI的经验,我们实证了文化、地缘政治状况和区域性理解不仅影响AI的性能,也影响其安全性”,“今后在全球市场开发主权AI的同时,将持续改进NAVER集团 ASF,并借此积极为营造多个体现不同地区文化与价值的AI模型安全使用、共存的可持续AI生态系统作出贡献”。






