AWS技术长文:用时间策略在Amazon Bedrock中保障AI Agent安全
AWS ML Blog · rss · 2026-08-07
传统访问控制的局限性
在传统应用中,访问控制通常将每个动作视为独立事件。然而,AI Agent 在运行时动态决定调用哪些工具及参数,这种灵活性使得无状态控制变得不足。例如,单独看一次工具调用可能是安全的,但如果在读取了不可信数据源之后调用,就可能产生危害。
时间策略的机制
Amazon Bedrock AgentCore 推出了时间策略,允许开发者定义有状态规则。这些策略在 AgentCore Gateway 边界运行,独立于 Agent 自身的代码,因此 Agent 无法绕过或操纵它们。
- 轨迹感知:根据当前请求和会话中的历史事件(轨迹)来评估授权。
- 默认拒绝:遵循默认拒绝和禁止优先原则。
- 统一管理:通过网关路由 MCP 工具调用、Agent 间调用和模型推理,提供一致的策略评估点。
核心应用场景
- 强制输出完整性:确保当前工具调用的参数与先前工具调用的输出完全匹配,防止幻觉或篡改。
- 强制调用顺序:验证标准操作程序,确保工具按正确顺序调用。
- 人工审批:在执行敏感或破坏性操作前,要求轨迹中记录明确的人工批准。
- 数据新鲜度:确保数据查询在规定时间内完成,防止基于过期信息做出决策。
文章还以私人银行投资组合 Agent 为例,详细演示了如何通过时间策略防止资金转移错误、限制累积风险暴露,并在无人工参与时自动收紧权限。
「编程与Agent」频道最新
- Hermes Agent 新增本地全格式文档解析 — Teknium · 2026-08-07
- 开发者展示极速可恢复沙箱:工具调用间无缝暂停恢复 — rakyll · 2026-08-07
- Asari 智能体成功将 Kimi K3 推理速度提升 32% — yisongyue · 2026-08-07
- AI红队测试工具选型:微软Foundry与PyRIT适用场景对比 — WirelessLife · 2026-08-07
- Schmidhuber 团队提出 Huxley-Gödel Machine:逼近最优自改进的编码智能体 — burny_tech · 2026-08-07
- 开发者吐槽 TypeScript 遥测生态,愿自掏腰包组建团队填补空白 — zeeg · 2026-08-07