AWS 推出 Bedrock AgentCore 网关速率限制功能

AWS ML Blog · rss · 2026-08-07

Amazon 宣布为 Bedrock AgentCore gateway 引入速率限制功能，帮助开发者精细控制 AI 流量。该功能支持基于 OAuth 或 IAM 规则，对每分钟请求数 (RPM)、并发连接数以及 Token 吞吐量 (TPM) 进行限制，确保在流量高峰期下游服务依然可用。

AgentCore 网关主要针对三类目标提供支持：MCP 目标、推理目标和 HTTP 透传目标。速率限制配置由维度键和条目组成，允许开发者根据 targetName、toolName 或用户身份信息（如 JWT claims）将流量分组到不同的限流桶中。此外，系统还结合了服务配额与用户自定义限制双层机制，有效防止单个用户或服务耗尽网关资源。