2026-06-16 | 서지혜 기자

从jeonse诈骗到独岛议题…KT公开韩国型AI验证体系

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

KT公开了反映韩国社会文化语境的多模态人工智能(AI)模型安全性评估标准。

KT于16日发布了与高丽大学共同开发的韩国型多模态大语言模型(MLLM)安全性评估基准“KSAFE-MM”。

多模态AI是不仅理解和处理文本,还能同时理解处理图像、语音等多种形态数据的模型。近来AI服务演进为同时接收图像与句子的方式,验证模型如何回应有害或敏感问题的标准,其重要性也随之上升。

KSAFE-MM由将全球共通风险要素转换为契合韩国文化圈的“KSAFE-MM-G”与反映韩国社会特有议题的“KSAFE-MM-C”构成。其特点是包含jeonse诈骗、独岛争端等韩国用户实际可能遇到的敏感主题。评估样本共计14135个,是韩国规模最大的韩语多模态安全性评估数据集。

该基准的另一特点是自动化构建流程。以往的安全性基准多由专家手工编制并审核题目,时间和成本负担较大。相比之下,KSAFE-MM先在本地社区收集敏感主题,生成问题,再制作合成图像。此外还应用了连试图绕过AI安全装置的“越狱提问”也一并生成的四阶段自动化流水线。这提供了即便没有特定文化圈专家,也能快速构建反映各地区社会语境基准的框架。

KSAFE-MM可用于AI服务实际上线前的安全性验证、红队测试、护栏模型评估等。研究成果与数据集已在论文预印本网站arXiv和AI模型共享平台Hugging Face公开,任何人均可使用。KT认为,同样的方式已试点应用于日语数据集构建,可扩展到其他文化圈。

KT AX未来技术院前沿AI实验室长(常务)朴在亨表示:“公开安全性基准不只是单纯的数据发布,而是为AI安全性研究生态共同发展打下基础”,“期待KSAFE-MM成为学界与产业界验证韩语及韩国文化语境下AI安全性的共同标准。”

阅读韩文原文