Agent 工程师最易踩坑:缓存超时让你默默烧掉预算
brandon_galang · x · 2026-10-12
一位资深 Agent 工程师指出， Experienced agent 工程师最常见的错误之一是没有管理好 prompt cache，导致在不知不觉中烧掉预算和用量额度。
- 大多数 API 的 cache TTL 只有约 5 分钟，如果两次 prompt 间隔超过 5 分钟，下一次就要按全价支付输入 token
- 跨多个会话并行工作时，可能每条消息都在把缓存打穿
建议：
1) 用 API 的话，换成提供 1 小时 TTL 的厂商（如 Anthropic）
2) 若没有，注意控制并行会话数量
3) 恢复大会话时，用更小的模型做压缩（作者早上开工时会在 Cursor 里切到 5.6 luna high 来 compact 大会话）
「编程与Agent」频道最新
- Jose Valim 实锤 Campfire 移植基准不公:Elixir 验证门槛远高于 Go/Rust — zeeg · 2026-10-12
- 让 AI 给改进要点、改动自己写：保住个人声音的协作法 — ctjlewis · 2026-10-12
- 内外双循环分工:别让外层 Agent 干开发、验证和代码评审 — alexcovo_eth · 2026-10-12
- 主播用直播间观众配合 25 个 Opus 智能体,一夜自动上线 90 项改动 — TheMoonMidas · 2026-10-12
- 一张图读懂 AI 产品构建的 15 个关键术语 — aakashgupta · 2026-10-12
- Graph Engineering 与 Harness Engineering：构建可靠 Agent 系统的两大实践 — Pavan_Belagatti · 2026-10-12