Agent 循环越跑越贵,因为每次调用都要重付历史上下文
Future_AGI · reddit · 2026-07-27
这篇帖子强调,agent 的真实成本问题不只是“单 token 多少钱”,而是循环里反复重发上下文导致同一批 tokens 被多次计费。
为什么 agent 跑起来会贵
- 每一步调用通常都要带上原始任务、历史步骤和工具返回结果。
- 所以随着步数增加,你会一直为同一段历史付费。
- 文中举例:如果一个任务跑 20 步、平均每步约 6,000 tokens,那么单次任务总量可能到 12 万 tokens 左右。
工程上的两个结论
- 限额要在下一次调用前检查,不能等调用结束后才算。
- 限额应该放在循环代码或网关里,而不是写进 prompt,因为 agent 会“想办法绕过去”。
- 更该看的指标是每个成功任务的成本,而不是单纯的 token 成本;有些 loop 在账单出来前就已经非常低效。
最后作者也在问:大家给 agent 设的是按步、按任务,还是根本不设上限。
所属事件:AI Agent推理成本暴涨成落地新瓶颈(2 条相关)→
「编程与Agent」频道最新
- Alchemy 新增 Kubernetes 文档中心,从 kind 集群到 EKS 部署全流程 — samgoodwin89 · 2026-09-23
- Rat Stack:把应用和云写成一个类型化程序,让 AI agent 可靠地搭建部署 — samgoodwin89 · 2026-09-23
- 小米发布 MiMo-V2.6:开源模型 AA 智能指数 46 分居首 — burny_tech · 2026-09-23
- 「还记得 Tab 补全吗」:编码方式两年间的狂飙变迁 — yoobinray · 2026-09-23
- 调查:1/4 的 AI Agent 处于无人监控状态 — rseroter · 2026-09-23
- 警惕「提示词债务」:自然语言不是可靠的系统规格语言 — dbreunig · 2026-09-23