AWS 提出 Trust in Depth：让智能体更自主又不失控的分层方法
AWS ML Blog · rss · 2026-10-15
AWS 针对企业“想让 agent 干更多但不放心”的痛点，提出 Trust in Depth 框架——把安全领域纵深防御的思路移植到智能体治理，主张在可验证时让 agent 自主行动，把人工判断留给真正需要的决策。
框架围绕 agent 生命周期的四个问题分层：
- Scope(运行前)：明确 agent 的职责、可用工具与数据、规则与必须交人的决策。Kiro 用 spec 驱动需求并借自动化推理暴露矛盾与缺口；Bedrock AgentCore Policies 允许用自然语言描述边界，自动检查策略漏洞与矛盾。
- Know(部署时)：Agent Registry 提供受审批的 agent/MCP/工具目录；AgentCore 为每个 agent 发放独立身份，每次请求都验证，确保行为可溯源到授权主体。
- Bound(运行中)：将行为约束在设定范围内(原文此节被截断)。
- Observe(运行后)：可重建 agent 做了什么、为什么，并持续学习。
对可精确表述的规则，AWS 用已在 IAM(21 亿+请求/秒)、Nitro Hypervisor、S3 Block Public Access 等生产系统运行十多年的自动化推理给出数学证明；对“保持友好语气”这类无法证明的规则，则限制访问、评估行为、把真正模糊的情形交给人，并随验证逐步放开自主权。
「编程与Agent」频道最新
- 生成式 UI 开放标准 OpenUI 开源,已揽 1.09 万 GitHub 星 — testingcatalog · 2026-10-16
- Agent 替用户报名并付款 traffic school,却拒绝替上课 — jeff_weinstein · 2026-10-16
- Netlify 发布新手教程:用 AI Gateway 快速构建应用 — thisiskp_ · 2026-10-16
- MCP Apps 新玩法：Spring AI 服务器可直接返回富交互界面 — therealdanvega · 2026-10-16
- SDLC 正变为 ADLC:Limestone 公开七步 agent 开发流水线,工程师只做审批 — alex_verem · 2026-10-16
- 企业自主动营代理存巨大机会,但多数公司派错了活:六个适合交给 agent 的循环 — alex_verem · 2026-10-16