Postman 复盘 4000 万用户 Agent Mode:上下文才是真瓶颈

AWS ML Blog · rss · 2026-10-09

Postman 与 AWS 联合复盘 Agent Mode(服务 4000 万开发者的 AI 原生工作模式)的生产架构,核心结论:做 demo 和做生产是两回事,最难的不是模型与 prompt,而是让成熟产品对 agent「可读」。

工具爆炸的控制:早期用高度原子化的小工具,结果长工作流每步都要回模型、体验很慢;实测发现可见工具超过 40 个后选择错误率明显上升(agent 会调用不存在的工具、传错参数)。现架构用向量库把 170+ 工具按请求动态筛到 15 个,交给上下文隔离的子 agent;同时把工具与 UI 状态解耦(如后台发请求不再需要打开标签页)。

Schema 化读取:对 API Catalog 这类结构化数据,不再为每类问题造一个工具,而是给 agent ClickHouse 表 schema,让它自己生成带 join 和 WHERE 的复杂查询——工程从「每个问题一个工具」变成「一次性把数据建模好」。

真正的瓶颈是上下文:实践中缺失或不完整的上下文导致的失败远多于能力缺失;当 agent 不知道用户在哪、哪些实体处于活动状态,再正确的工具也没用。架构上区分了自动采集的浅层背景上下文(压缩进 prompt)和用户主动选择的深度上下文(按实体类型走专用 handler)。

生产控制还包括:修改状态必须用户批准、按任务裁剪工具、Bedrock Guardrails 脱敏 PII、跨区推理与多级 prompt 缓存。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →