2026-02-12 | 김태영 기자

微软“2026年是‘AI智能体之年’……须防范安全风险”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

微软(MS)诊断称,随着人工智能(AI)代理的普及,安全风险也新近浮现,组织内部必须明确界定AI代理的活动范围与数据保护规则。

微软12日公开AI安全报告《网络脉动》,表示财富500强企业中超过80%正利用无代码、低代码工具创建并运营活跃代理。这一数字是针对使用微软代理构建器和微软Copilot Studio构建的代理统计得出的。无代码、低代码工具指完全不编写代码或仅少量使用代码进行编程。

微软在报告中将今年展望为"AI代理之年"。报告称,随着低代码、无代码工具的普及,即便不是开发者也能自行开发代理的环境已经形成,AI驱动的自动化正迅速扩散至各行各业。

与此同时,安全风险也在加大。如果有人滥用代理的访问权限和权限范围,代理可能沦为非本意的"双面代理",即间谍。实际上,微软发现了多个攻击者持续操纵AI助手的记忆,将回答引向特定方向、扭曲推理方向的案例。

微软诊断称,为降低围绕AI代理的安全风险,有必要建立在组织内部透明共享AI代理相关事项的体系。作为具体的执行课题,微软提出了以下几点:按AI代理记录运营目的并授予最小访问权限;强化数据保护体系;提供经批准的AI平台;制定事故应对计划;建立监管应对体系;全公司统一风险管理;营造安全创新文化。

阅读韩文原文