2026-02-13 | 김수호 AX콘텐츠랩 기자

据说没有企业不用AI…“放心随便用要出大事”警告

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

随着全球企业引入人工智能(AI)智能体迅速普及,AI安全风险管理正成为核心课题。

微软(MS)11日发布AI安全报告《网络脉搏》,警告称随着AI应用扩散,AI智能体可能成为安全漏洞,演变为“影子AI风险”。

报告显示,目前财富500强企业中有80%以低代码(最少编码)或无代码方式运行AI活跃智能体。对此,微软预计今年将是“AI智能体之年”。按地区看,活跃智能体占比依次为欧洲·中东·非洲42%、美国29%、亚洲19%、美洲10%。按行业看,软件·技术16%、制造业13%、金融服务11%、零售9%等。

随着AI智能体的引入急速扩散,也有人担忧其可能超越内部控制。微软在报告中指出:“影子AI风险正在扩大,若恶意行为者滥用智能体的访问权限与权限范围,智能体可能沦为‘双面间谍’。”

影子AI指员工未经组织批准自行引入并使用AI智能体的现象。也就是说,获得过度访问权限或收到不当指令的智能体,可能成为组织内部的安全漏洞。

例如,微软AI红队曾发现智能体遵循嵌入在日常内容中的有害指令的案例。

据Hypothesis Group调查,29%的员工有在工作中使用未经批准的AI智能体的经历。相反,引入生成式AI安全防护措施的组织仅有47%。对此,微软提出以“确保可见性”作为智能体安全的出发点,并建议管理注册表、访问控制、可视化、互操作性、安全等五大核心领域。

微软提出了将AI智能体风险最小化的七项实施课题,包括界定运行范围、强化数据保护体系、提供经批准的AI平台、制定事故应对计划等。微软强调:“需要业务、IT、安全、AI团队与开发者组织整体协作,并建立能够在单一中央控制平面上一致管理所有智能体的环境。”

阅读韩文原文