Agent 烧钱循环怎么防：调用前预算护栏的六道检查与三个踩坑
MaverikSh · reddit · 2026-11-05
作者(自称做 LLM 网关 Cognocient AI)分享 agent 成本护栏的工程实践：多数成本工具在计费后才报数，而失控循环几分钟就能烧掉数百美元，护栏必须放在请求发出之前。
核心做法：
- 调用前预留：按 maxtokens 原子地预留每次调用的最坏成本，事后按真实成本结算，否则 20 个并行调用都会通过只该过一个的预算检查
- 按 run 计预算：单次调用都便宜、问题在 run 总量，用同一 run ID 聚合并限制美元总额；step 数限制挡不住(25 步可能花 $0.5 也可能 $50)
- 限制美元速率而非仅请求速率：循环里调用会越来越长，要按每分钟美元数限速
- 行为式循环检测：连续 N 次相同工具调用/相同结果/连续报错即停
- 读写感知降级：预算耗尽时硬停写操作，读操作换便宜模型放行
- 总闸 kill switch:看不懂状况时一键全停
作者第一版的三个坑：按整分钟计数导致跨分钟窗口绕过限制(改为 1 秒桶+60 秒滑动窗+10 秒突发窗)；熔断不锁存，循环等窗口流空又继续(改为触发后拒绝一切调用 5 分钟并返回 Retry-After);key 级熔断误伤所有 agent(改为可选的按 run 限速)。
权衡：这些都在请求路径上，需要改 base URL 且增加延迟，且熔断时在途请求仍会完成并计费；若只需事后报表，只读计费集成更简单。
所属事件:开发者支招：四步改造限流加六道预算检查防 Agent 烧钱(2 条相关)→
「编程与Agent」频道最新
- Techno Tim 自建家用 AI 平台:三块旧 GPU + vLLM + 语义路由统一入口 — JeremyCMorgan · 2026-11-05
- 手绘草图 4.5 分钟变可打印 3D 模型:Kimi K3.1 Pro 实测开源工作流 — Arindam_1729 · 2026-11-05
- 开源 X/Twitter MCP 服务器:让 agent 发推、搜索、管理账号 — modelcontextprotocol · 2026-11-05
- Cognition 发布 SWE-2 Flash:276B-A12B 胜过所有美国开源权重模型 — carlesgelada · 2026-11-05
- 27 个编码 agent 协作 14 天:69 万行代码、1269 个 PR、三厂商交叉评审 — oliver-zehentleitner · 2026-11-05
- 产品设计师首作：纯 JS+Three.js 打造星露谷风森林小镇游戏 — algo_diver · 2026-11-05