给 Agent Fleet 的失效熔断器
MohamedKadri_ · reddit · 2026-07-13
作者分享了一个给 LLM agent fleet 用的 burn-rate circuit breaker：当某个 agent 的失败率相对自身历史基线持续恶化时，系统会自动把它降级为 propose-only，只产出建议，不再直接执行动作。
问题背景
单次动作级的 guardrails 往往能拦住眼前的坏调用，但拦不住“缓慢变差”的 agent：每次输出都过关，整体故障率却在悄悄上升。
核心思路
借鉴电信 NOC 和 Google SRE 的 burn-rate 告警：
- 跟踪每个 agent 的失败率 trailing baseline
- 用当前窗口和该 agent 自己的历史做比较
- 当比值超过 2x 时，触发降级到 propose-only
关键防护
作者强调 naive baseline 很容易被污染，因此加了三层机制：
- learning freeze：burn rate 异常时暂停吸收新事件，避免把故障“学成正常”
- asymmetric learning：改善学得快，退化学得慢
- absolute ceiling：补一个绝对上限，防住那种缓慢爬升但比率不够明显的故障
另外还做了：
- per-agent + fleet 两级 kill switch
- dashboards 用的 fleet() 视图
- 约几百行、无依赖、MIT 授权的 TypeScript 实现
- 浏览器里的交互 demo，可注入 drift 观察 breaker 生效
- 一篇更长的文章，讨论 NOC 运维经验如何迁移到 agent fleet（自治等级、error budget、change freeze 等）
作者最后抛出问题：大家现在是怎么检测 fleet 级退化的？是 per-run eval、baseline-relative 信号，还是更聪明的方法。
「编程与Agent」频道最新
- 安全专家：让 AI 智能体按 NIST CSF 搭知识库做应急响应 — prasanna_says · 2026-10-26
- Google Cloud Knowledge Catalog 新增自学习上下文充实,为 agent 自动补全企业知识 — rseroter · 2026-10-26
- Cloudflare 推出支出上限功能早期预览,Workers 与 Durable Objects 先行 — ritakozlov · 2026-10-26
- Shopify 设计负责人谈 AI 时代工作流：设计师正变成全栈编辑 — KlausCodes · 2026-10-26
- Nace AI 推出 Drex for Search：让 Agent 精准翻页读云端文件 — testingcatalog · 2026-10-26
- Ultrametric 开源 Open Startup Repo:让 AI Agent 自动运营创业公司 — garrytan · 2026-10-26