安全领域正面临新的转折点。安全专用人工智能(AI)模型“Claude Mythos”能够自主发现此前未被察觉的漏洞,甚至编写出可用于实际攻击的代码。AI已不再只是辅助人类判断,而是达到了自主探测漏洞并设计攻击路径的水平。AI已从解决问题的手段,变成了新的黑客。
这一变化在技术进步层面意义重大,但同时也带来严重问题。发现漏洞的能力有助于提升安全水平,但反过来也会使自动化攻击成为可能。这不仅是单纯的技术问题,还将对国家安全与产业构成本质性威胁。特别是当基于AI的攻击瞄准金融系统、通信网络、能源设施等国家核心基础设施时,其冲击力将更大。因此,主要国家正在检视针对AI安全风险的应对体系,韩国相关部门与产业界也已开始共同讨论应对方案。
另一个问题是高端AI安全技术可能集中于特定国家或企业。技术依赖度越深,国家的安全能力也必然越受外部环境影响。为在数字环境中确保自主性与安全性,安全能力也需要如下进行战略性管理。技术竞争力并非单纯的产业问题,而是直接关系国家安全的问题。
第一,需要转向以“可能被入侵”为前提的安全架构。既有安全体系侧重于阻止外部入侵。但基于AI的攻击可能通过绕过内部访问权限或模仿正常行为的方式进行。应在假设入侵已经发生的前提下,最大限度缩减系统访问权限、隔离信息资产,以防止损失扩大。这种方式在单个系统漏洞演变为整个网络威胁时尤为有效。
第二,需要建立应对AI攻击的自动化防御体系。基于AI的攻击能在极短时间内探索漏洞并实施攻击,被动式应对方式远远不够。安全系统也必须设计为可实时检测并响应异常征兆。尤其重要的是,数据分析、安全政策与应对流程作为一个体系运作的整合型安全架构。
第三,必须制定国家层面的综合安全政策。有必要通过“AI基本法”或特别法整理分散的规定,并建立在AI系统设计阶段即确保安全性的认证体系。同时应扩大促进漏洞发现与改进活动的制度基础,并积极参与国际信息共享体系。AI技术跨越国境运作,应对也需要在合作中展开。
AI是改善人类生活的重要技术,但同时也会带来风险。技术发展越快,风险也会以更复合的形态出现。为新的技术环境制定相应的制度与政策,已不再是可选项。所需要的并非为控制技术的监管,而是为技术安全运作而建立制度基础。因为在AI自行设计攻击的时代,若固守过去的安全方式,将难以应对新的风险。
AI为人类带来了璀璨的创新,同时也递上了具有破坏性且隐秘的武器。在AI成为黑客的人工智能转型(AX)时代,现在正是重建与不断进化的智能型威胁相匹配的安全框架的黄金时间。






