政府评估结果显示,Kakao集团的人工智能(AI)模型“Kanana”与Meta的“Llama3.1”等全球竞争模型相比具备更高的安全性。
韩国科学技术情报通信部29日表示,已与AI安全研究所、韩国信息通信技术协会(TTA)共同对“Kanana Essence 1.5”实施了国内首次AI安全性评估。科学技术信息通信部表示,在下月《关于AI发展与信任基础建设等的基本法》(AI基本法)施行之前,将利用国内研究团队开发的专用数据集,以Kanana为起点,通过AI模型安全性评估为企业提供支持。
从暴力、歧视性表述等一般风险要素,到武器、安保等滥用可能性较高的场景,检查结果显示,Kanana比Llama3.1、Mistral0.3等规模相近的全球模型具有更高的安全性。该安全性基准数据集以韩语为基础,设计用于评估35个风险领域,已于上月18日公开,以便与海外研究机构共同验证和使用。
科学技术信息通信部计划连同AI安全研究所构建的高风险领域数据集,推动接入国际AI安全研究所网络并反映到国际标准化中,以提升全球吻合度。评估对象也将扩大至作为国家代表AI模型的“自主AI基础模型”等。
科学技术信息通信部AI政策室长金京万表示:“在全球关于AI安全的讨论更强调验证与实现而非监管的形势下,此次评估是证明国内AI模型安全性竞争力的案例。”他还说:“我们将积极支持国内AI模型引领全球AI安全领导力。”






