随着利用人工智能(AI)进行软件开发日益普遍,安全威胁也随之加大的“AI悖论”正在成为现实。安全企业为应对这一局面,正积极开发将风险检测、响应等安全全流程交由AI智能体处理的技术。这就是所谓以AI制AI的构想。
据信息技术(IT)业界7日消息,NAVER集团在前一天发布的《2025 NAVER集团安全白皮书》中,将AI悖论列为去年安全领域的关键词。AI使用同时提升生产率与安全脆弱性这一矛盾最典型的领域是“氛围编程”(开发者仅用自然语言向AI传达意图,从而生成代码、开发软件)。报告指出:“有观点反复指出,AI工具在以效率优先的过程中,容易忽略输入值校验缺失、密钥硬编码、未采用最新库及安全补丁等基本原则。”
报告尤其判断称:“近期的威胁已超越简单自动化,正演进为如GTG-1002行动那样具备自主性的AI智能体型攻击。”GTG-1002行动指去年9月疑为中国国家支持黑客组织的攻击者利用AI智能体开展大规模网络间谍行动的事件。在该攻击中,AI自主执行了侦察、系统测绘、漏洞探测等80%~90%的战术性工作。报告评价称:“从AI承担攻击运营核心枢纽这一点可以看出,游戏规则已完全改变。”
随着网络攻击范式的转变,韩国国内安全企业也在迅速行动。韩国最大安全企业安博士在上月的开工仪式上,将“以AI为中心的转型”列为今年的重点课题。此前,安博士于去年4月推出智能体AI安全技术安博士AI Plus,并应用于安博士XDR等自有服务。在PC杀毒软件V3产品线等中引入AI技术后,AI日均发现超过13万件新型恶意代码。今年计划将安博士AI Plus结合到远程安全监控、模拟渗透测试等更多服务中。
RaonSecure计划开发基于智能体AI的安全自动化平台,并在年内推出。该平台是由AI全面承担权限管理→威胁检测→响应处置→分析与报告等企业安全运营环节的服务。为提高平台安全性,RaonSecure还在开发管理智能体AI身份与权限的AAM技术,以及阻断对智能体AI异常访问的“智能体AI护栏”体系。
韩国国内外大型科技企业也在加强针对AI攻击的安全性举措。NAVER集团通过将安全检查与改进提前至开发初期的“左移”战略来克服安全威胁,同时运营外部安全专家报告漏洞即支付奖金的“漏洞赏金”项目。微软对外分享了其AI红队对100多个生成式AI产品进行模拟、从而分类并缓解安全风险的成果。谷歌也在去年公布了专门的AI漏洞奖励项目,与外部研究人员共同解决AI系统的安全问题。






