历史重发致 token 爆炸:裁剪上下文加缓存省一半账单
useralltime_835 · reddit · 2026-11-07
发帖人分享多步 agent 的 token 成本控制经验:一个三步 agent 因每步重发全部历史,悄悄膨胀到每任务 15 次工具调用。改进方法:
- 把上下文裁剪到下一步真正需要的内容
- 对更早的轮次做摘要压缩
- 缓存 system prompt
三项调整后账单降了一半以上,质量没有下降。帖末向社区征集其他保持 agent 运行精简的做法。
「编程与Agent」频道最新
- Devin 新版界面预览曝光:单月 880 ACU 用量、380 个 PR 合并 — ghumare64 · 2026-11-07
- 百 Agent 部署难题之四:失败级联、重试重复与错误扩散 — goyalshaliniuk · 2026-11-07
- 百 Agent 部署难题之五:可观测性、安全与成本追踪的落地清单 — goyalshaliniuk · 2026-11-07
- 百 Agent 部署难题之三:工具争用、限流中断与成本飙升 — goyalshaliniuk · 2026-11-07
- 百 Agent 部署难题之二:共享上下文过期、丢失与 token 膨胀 — goyalshaliniuk · 2026-11-07
- 百 Agent 部署难题之一:协调复杂,产出冲突与依赖失控 — goyalshaliniuk · 2026-11-07