2026-07-08 | 노현섭 기자

“AI安全性扩展至用户与服务”…NAVER集团公开ASF 2.0

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

NAVER集团于8日公开了将管理范围扩展至用户安全体验人工智能(AI)服务层面的AI安全性体系“ASF(AI Safety Framework)2.0”。

ASF 2.0是NAVER集团对其2024年在AI首尔峰会上公开的ASF进行更新,并纳入扩展至用户保护层面理念的AI安全性管理体系。核心在于,将原先以AI技术模型性能与风险水平为重点的ASF安全性管理范围加以扩大,转向以用户实际体验的服务为中心来管理安全性。

NAVER集团当天通过在首尔市江南区举办的人工智能安全首尔论坛(SFASS, Seoul Forum on AI Safety & Security),分享了ASF 2.0的方向性与构成要素、强化后的分类·管理·执行体系以及今后的活动计划。

出席发布的NAVER集团 AI Safety Policy负责人宋大燮表示:“围绕AI的技术与服务及政策制度环境正在变化,议题已从如何让单一模型变得安全,扩展为如何结合多种AI模型、安全地设计和运营供数千万人使用的服务。”并由此说明了ASF 2.0的制定背景。

宋大燮解释称,NAVER集团 ASF 2.0多角度反映了:△AI标签页、购物AI智能体等正在深化的NAVER集团“On-service AI”战略 △全球AI生态中多模型环境的扩散 △AI基本法制定等政策·制度环境的变化。

ASF 2.0以从用户与服务视角安全管理AI为目标,将在AI服务从推出到运营的全部阶段管理安全性。为此,把原先以AI技术模型为中心的管理范围扩展至基于多模型环境的AI服务,并将以性能为中心的单一评价标准细分为情境(context)、应用案例(use-case)与影响(impact)。

具体而言,依据AI风险分类体系(AI Risk Taxonomy)对AI服务中可能出现的风险进行类型化,并依据AI影响评估矩阵(AI Impact Assessment Matrix)评估不同应用领域及范围下的预期影响。最后,在该体系基础上,通过持续的安全性评估与用户反馈,管理并保障用户能够持续、安全地使用AI服务。

NAVER集团还制定了全公司执行体系“CHEC 2.0”,以帮助ASF 2.0在服务推出过程中得到一致适用。今年6月推出的“AI标签页”同样通过CHEC 2.0,在从设计到上线的全过程中完成了AI安全性检查。NAVER集团计划通过CHEC 2.0持续检查包括AI标签页在内的即将推出或已推出的AI相关服务的安全性。

宋大燮表示:“NAVER集团在2021年公开‘NAVER集团 AI伦理准则’、2024年公开‘NAVER ASF Beta’,顺应AI伦理的全球趋势与国内政策环境,持续将AI安全性体系具体化。”“今后也将不断积累AI安全性方面的经验与专有技术,并通过与学界、政策方、外部专家及各类机构的合作,分享并发展这些经验与专有技术。”

阅读韩文原文