政府之所以针对下一代人工智能(AI)重新确立安全标准,是因为AI的发展正在改变网络攻击本身的形态。过去只是告知攻击方法或编写代码的AI,如今已能从漏洞搜索到系统渗透、数据窃取,直接执行多个环节,使攻击所需时间与人力减少,而受害范围不断扩大。攻击者能以更低成本瞄准更多目标,防御方发现并应对威胁的时间却越来越短。
据美国信息技术(IT)专业媒体The Information 13日(当地时间)报道,Anthropic与OpenAI、谷歌正在讨论共同设立面向AI行业的标准机构。在对AI可能脱离人类控制的担忧之下,要求调节技术开发速度的呼声日益高涨,业界层面建立控制机制的动向也日趋具体。
利用AI实施攻击的速度与规模,已在实际入侵案例中显现。Anthropic分析了去年12月至今年8月自家AI模型Claude被滥用的案例,并于本月10日公开报告。报告显示,疑为国际黑客组织“ShinyHunters”合作势力的攻击者,在入侵一家软件即服务(SaaS)企业后,以此为跳板窃取了约200家客户企业的数据。随后,他们在约34小时内窃取了包含2100余组充当数字通行证的认证令牌(Azure AD令牌)的登录会话数据。Anthropic称,这项工作几乎全部由AI智能体完成。在另一起攻击中,攻击者利用窃取的一个开发者令牌,在约3小时内获得了受害者云环境的管理员权限。网络犯罪组织窃取数据屡见不鲜,但随着AI发展,其规模大幅扩大、速度明显加快。
同时投入多个AI、分工实施攻击的案例也已被确认。中国的一个犯罪团伙设计并搭建了自主型作业体系,使Claude能够全天24小时自主寻找攻击目标的漏洞,并研究可利用漏洞的攻击代码(漏洞利用程序)。他们以教育、医疗、金融、制造企业及政府机构等全球约50个组织为目标,实际窃取了大量数据,其中智能体AI也发挥了核心作用。特别是采用了由一个AI智能体分配任务、交由多个下级智能体执行的“智能体蜂群(swarm)”方式,使得无需人工逐一指示即可并行推进多项攻击任务。
Anthropic方面分析称:“精密的攻击不再需要精密的人类攻击者”,“从侦察、工具开发到数据处理与漏洞利用,攻击的全过程都通过AI实现了高度化。”Anthropic还警告:“AI的角色正日益变得自主化”,“随着AI模型性能不断提升,若不采取强化的安全措施,AI带来的风险将进一步扩大。”
谷歌威胁情报小组(GTIG)在分析今年第二季度的入侵事件过程中,确认了AI大幅缩短攻击时间的案例。攻击者在已被入侵的云环境中利用智能体AI,在不到6小时内策划、构建并执行了大规模凭证窃取行动。AI自主完成了漏洞搜索及解决执行过程中错误等工作。GTIG分析认为,攻击者已超越向AI提出零散问题的阶段,转向将多个攻击流程自动化,防御方的应对时间正在缩短。
事实上,IBM对去年3月至今年2月一年间遭黑客攻击的602家企业展开调查,结果显示其中25%表示遭到了利用AI的攻击。该数字同比增加56%,AI驱动的攻击所造成的损失,平均使每起入侵事件额外产生100万美元(约13.47亿韩元)的成本。
韩国国内发生的网络威胁同样呈激增趋势。据韩国科学技术情报通信部统计,今年上半年受理的网络入侵事件为1236件,比去年上半年增加19.5%。科学技术信息通信部指出:“随着生成式AI的扩散,目前并非所有攻击都已完全自动化,但如果攻击准备所需的时间和成本下降,就能在更短时间内分析比以往更多的目标”,“AI的滥用已不只是放大既有网络攻击速度与规模的因素,更正在成为一种独立的新型网络威胁。”
对此,专家认为,网络安全的理念应从以搜索为中心,升级为以验证和速度为中心。S2W综合分析室室长梁钟宪建议:“像Mythos这样的高性能AI正在降低发现漏洞的成本”,“今后的安全重点不在于找出漏洞,而应更侧重于如何验证AI找出的漏洞、按何种顺序修复,以及如何比攻击者更快地建立防御体系。”






