给 Agent Fleet 的失效熔断器
MohamedKadri_ · reddit · 2026-07-13
作者分享了一个给 LLM agent fleet 用的 **burn-rate circuit breaker**：当某个 agent 的失败率相对自身历史基线持续恶化时，系统会自动把它降级为 **propose-only**，只产出建议，不再直接执行动作。 ### 问题背景 单次动作级的 guardrails 往往能拦住眼前的坏调用，但拦不住“缓慢变差”的 agent：每次输出都过关，整体故障率却在悄悄上升。 ### 核心思路 借鉴电信 NOC 和 Google SRE 的 burn-rate 告警： - 跟踪每个 agent 的失败率 trailing baseline - 用当前窗口和该 agent 自己的历史做比较 - 当比值超过 **2x** 时，触发降级到 propose-only ### 关键防护 作者强调 naive baseline 很容易被污染，因此加了三层机制： - **learning freeze**：burn rate 异常时暂停吸收新事件，避免把故障“学成正常” - **asymmetric learning**：改善学得快，退化学得慢 - **absolute ceiling**：补一个绝对上限，防住那种缓慢爬升但比率不够明显的故障 另外还做了： - per-agent + fleet 两级 kill switch - dashboards 用的 `fleet()` 视图 - 约几百行、无依赖、MIT 授权的 TypeScript 实现 - 浏览器里的交互 demo，可注入 drift 观察 breaker 生效 - 一篇更长的文章，讨论 NOC 运维经验如何迁移到 agent fleet（自治等级、error budget、change freeze 等） 作者最后抛出问题：大家现在是怎么检测 fleet 级退化的？是 per-run eval、baseline-relative 信号，还是更聪明的方法。