2026-06-19 | 서지혜 기자

技术自立再加科技巨头协作…政府加速构建AI安全网

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

韩国政府将人工智能(AI)安全与保安技术视为未来战略技术,在推进国内技术自立的同时,也推动与全球大型科技企业的合作。构想是一方面扩大与OpenAI、Anthropic等全球AI企业在安全性评估、网络安全领域的合作,另一方面在国内加快确保用于防止AI模型幻觉与滥用的原创技术。

据业界18日消息,信息通信规划评价院(IITP)与韩国科学技术情报通信部将最早从2027年起至2034年,在8年间推进规模达3000亿韩元的“AI安全信赖技术开发新事业”。为此,IITP近期发布了“AI安全信赖(Safety)大规模研发事业前期规划研究委托”公告。

该项目目标是在国家层面评估大语言模型(LLM)等AI模型的安全性,并掌握可阻断危险回答、幻觉及恶意滥用的技术。目前ChatGPT、Claude、Gemini等全球LLM由各企业自行验证安全性,但国家层面的测试与认证体系并不充分。

因此,全球范围内提供有害信息、生成恶意代码、自动化钓鱼、生成虚假信息等风险不断加大,但应对并不容易。因为即便各模型开发商采取措施阻断有害信息检索,若用户依据其文化圈找到企业无法发现的绕行方式,就可以轻易滥用AI工具。IITP相关人士解释称:“当用户以迂回表达询问毒品制造方法时,部分模型也会提供危险信息”,“需要能够评估各模型安全性的标准体系”。

政府在构建自主研发基础的同时,也在拓展全球合作网络。科学技术信息通信部当天与Anthropic签署了在确保AI安全性及网络安全领域的业务协议。双方决定分析AI对网络攻击与防御的影响,并在韩语语境下评估AI模型的安全性与滥用风险。自主型AI智能体红队评估、AI漏洞发掘、网络威胁情报共享也在合作范围之内。此前本月17日,AI安全研究所与OpenAI签署业务协议,决定共享高风险领域安全评估方法论与基准方面的知识和最佳实践。双方还将交换用于开发反映韩国社会语境的AI安全评估体系的技术信息,并在构建可国际适用的评估体系方面展开合作。

专家指出,随着AI安全上升为国家安全问题,亟需确立国家层面的评估体系并掌握原创技术。一位AI安全领域专家表示:“AI安全性评估应被视为公共基础设施”,“应同时培育反映韩语及国内社会文化语境的评估体系、阻止滥用的防御技术,以及能够解释和验证模型判断依据的技术”。

阅读韩文原文