2026-06-18 | 서지혜 기자

技术自立再加科技巨头协作…政府加速构建AI安全网

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

政府将人工智能(AI)安全与保安技术视为未来战略技术,在推进国内技术自立的同时,也推动与全球科技巨头的合作。构想是与OpenAI、Anthropic等全球AI企业扩大安全性评估与网络安全合作,同时在国内加快确保原创技术,以开发防止AI模型幻觉和滥用的技术。

据业界18日消息,信息通信规划评价院(IITP)与韩国科学技术情报通信部将在2027年至2034年的8年间推进规模3000亿韩元的“AI安全信赖技术开发新项目”。为此,IITP近期发布了“AI安全信赖(Safety)大规模研发项目前期规划研究委托”公告。

该项目目标是在国家层面评估大语言模型(LLM)等AI模型的安全性,并确保能够阻断危险回答、幻觉及恶意滥用的技术。目前ChatGPT、Claude、Gemini等全球LLM由各企业自行验证安全性,但国家层面的测试与认证体系尚不充分。

由此,全球范围内提供有害信息、生成恶意代码、自动化钓鱼、生成虚假信息等风险不断加大,但应对并不容易。因为即便各模型开发商采取措施阻断有害信息检索,用户若依据不同文化圈找到企业无法察觉的绕行方式,仍可轻易滥用AI工具。IITP相关人士解释称:“当用户以绕行表述询问毒品制造方法时,部分模型也会提供危险信息”,“需要能够评估各模型安全性的标准体系”。

政府在构建自主研发基础的同时,也在拓展全球合作网络。科技信息通信部当天与Anthropic签署了AI安全性保障及网络安全领域业务协议。双方将分析AI对网络攻击与防御的影响,并在韩语语境下评估AI模型的安全性与滥用风险。自主型AI智能体红队评估、AI漏洞挖掘、网络威胁情报共享也在合作范围之内。此前本月17日,AI安全研究所已与OpenAI签署业务协议,约定共享高风险领域安全评估方法论与基准的知识和最佳实践。双方将交换技术信息,以开发反映韩国社会语境的AI安全评估体系,并在制定可国际适用的评估体系方面开展合作。

专家指出,随着AI安全上升为国家安全问题,国家层面的评估体系与原创技术确保已十分紧迫。一位AI安全领域专家表示:“AI安全性评估应被视为公共基础设施”,“必须同步培育反映韩语及国内社会文化语境的评估体系、防止滥用的防御技术,以及能够解释和验证模型判断依据的技术”。

阅读韩文原文