微软扩展 Project Perception，将 AI Agent 视为内部风险严管
微软 CEO 纳德拉于 10 月 19 日宣布扩展 Project Perception，把「模型即内部风险」理念正式落地：给企业内每个 AI Agent 发放独立身份，权限按任务最小化限定并随风险变化动态收容，同时新增持续评估 agent 风险、遏制威胁等能力，并推出 Guardian Agents 用于监控企业内部使用的 AI Agent。微软安全主管明确表示前沿模型不可被盲信、不能完全信任。同日微软发布安全警告，呼吁企业把 AI Agent 当作潜在「内部人风险」对待——理由并非 agent 天生恶意，而是它们能高速访问公司数据、应用和工具并据此行动，且行为会随指令、数据与上下文变化而改变。
已确认
- 纳德拉 10 月 19 日亲自宣布扩展 Project Perception，微软安全博客同步发文，提及近月多起 AI 安全事件公开后的行业反应
- 新产品 Guardian Agents 隶属于 6 月发布的 Project Perception 体系，用于监控企业内部使用的 AI Agent
- 据 Cole Medin 介绍，该扩展基于 Agent 365 构建，核心是给每个 Agent 独立身份、权限按任务最小化并随风险动态调整
- 微软安全主管明确表示前沿模型不可被盲信，不能完全信任
- 身份验证公司 Sumsub 也开始把 AI Agent 当作「内部威胁」对待，在企业环境中强制实施零信任控制；VectorWire AI 对此进行了报道
为什么重要
- Agent 拥有调用工具、访问 API 与数据的权限，一旦被劫持或越权，其破坏力远超传统软件，传统静态权限管理难以覆盖
- 微软从平台方角度把「不信任 agent」制度化，意味着企业 AI 安全范式正从防外部攻击转向同时防内部（含 AI 产生的）风险，零信任成为 Agent 治理的主线
2026-10-19 ~ 2026-10-21 · 6 条相关
一手来源
- 微软扩展 Project Perception:把 AI 模型当作内部威胁来防 — satyanadella ·
- 微软警告：AI Agent 如同内部威胁，前沿模型不可完全信任 — emmanuelvivier ·
- 微软扩展 Project Perception：给企业 AI Agent 发身份、限权限、控风险 — Cole Medin ·
- 【源头】微软扩展 Project Perception:把 AI 模型当作内部威胁来防 — satyanadella · 2026-10-19
- 微软警告:AI Agent 应视为内部安全威胁,权限失控风险陡增 — brucemacv · 2026-10-20
- 【源头】微软警告：AI Agent 如同内部威胁，前沿模型不可完全信任 — emmanuelvivier · 2026-10-20
- 微软与 Sumsub 将 AI Agent 视为内部威胁，推行零信任管控 — VectorWireAI · 2026-10-20
- 【源头】微软扩展 Project Perception：给企业 AI Agent 发身份、限权限、控风险 — Cole Medin · 2026-10-21
另有 1 条近重复转述:sanjaykalra