微软扩展 Project Perception:把 AI 模型当作内部威胁来防
satyanadella · x · 2026-10-19
纳德拉宣布 Microsoft 将「模型即内部风险」的理念落地,扩展 Project Perception,新增持续评估 agent 风险、动态调整权限、遏制威胁等能力。
随帖发布的微软安全博客指出:近月多起 AI 安全事件公开后,行业关注点多在攻击者滥用模型,却忽视了企业自己部署的 agent。博客强调「前沿模型无论来源都不可信」——不是因为模型本身恶意,而是模型为达成目标而训练,容易产生意外行为,因此安全控制必须放在模型之外。
所属事件:微软扩展 Project Perception，将 AI Agent 视为内部风险严管(6 条相关)→
「编程与Agent」频道最新
- LLM 输出不确定性下如何放心上线？开发者求解结构化评测实践 — ssnuopi · 2026-10-21
- RunInfra 推出编程订阅计划：$10/月可用 19 个 agent 跑最快开源模型 — ycombinator · 2026-10-21
- Matt Shumer 推出邮件 AI 员工:发邮件派活,自动回邮交差 — mattshumer_ · 2026-10-21
- uv 与 ty 集成:PEP 723 脚本类型检查这样开启 — charliermarsh · 2026-10-21
- Astral 发布 uv-ty 实验性集成:uv check 一键类型检查 — charliermarsh · 2026-10-21
- 开发者自建效率追踪:用 Claude 后快 7.1 倍,两月攒下 2.5 工作年 — arthurcolle · 2026-10-21