给自主智能体加断路器:反向代理层掐死无限循环与预算失控

大模型之路 · wechat · 2026-10-19

自主智能体最贵的故障不是答错，而是卡在工具调用循环里烧 token——每次调用单独看都合法，合起来一晚烧掉数千次调用，且计费延迟让人从账单发现时钱已花完。文章介绍用 AI Circuit Breaker 这类 OpenAI 兼容反向代理在运行时兜底。

核心机制

• 循环检测：滑动窗口比对请求指纹，超阈值返回 400 带 infiniteloopkilled；预算按账户设小时/每日美元上限，超支返回 429 带 budgetlimitbreached。机器可读错误码让编排器把「循环被杀」与「上游故障」走不同恢复路径，避免盲目重试放大故障。
• 借微服务熔断器思路实现 closed/open/half-open 状态机：失败率超限即熔断，冷却后放试探请求，秒级识别「上游挂了」和「智能体疯了」。

与已有护栏的分工：沙箱管「能不能执行」，提示词护栏管「说什么」，MCP 层管「工具输出多大」，断路器管「调多少次、花多少钱」；与 LangGraph/CrewAI 的框架级重试不重叠——框架救单点抖动，断路器防系统性失控，类似交易所熔断。

落地要点：改 baseURL 即可接入；部署选独立网关（统一生效）或 sidecar（隔离性好）；指纹从「模型+工具名」起步再收紧；阈值先开只记录不拦截的观察模式跑一周，设在高水位上方。

边界与坑：只管「量」不管「质」，误杀需调指纹与阈值而非拆闸；代理本身是单点，需按高可用反向代理部署；错误码语义一旦定下不能改，否则所有编排器的异常分支集体失效。

原文链接 →

「编程与Agent」频道最新

• 实测 12 个 AI 分类器后,作者直言「分类器新热是cosplay」 — KlausCodes · 2026-10-23
• 用 ESP32 小屏给 Claude Code 做 status 卡片，Go 本地检测状态 — tonylook · 2026-10-23
• Agent 调试新玩法:把 agent 指向 AgentsView CLI 让它自己查 trace 找病因 — dbreunig · 2026-10-23
• YC 系 Mireye 推出土地数据 API+MCP，覆盖 1.6 亿地块 — ycombinator · 2026-10-23
• 实测 12 套决策系统：分类器换版的「LARP 式炒作」陷阱 — KlausCodes · 2026-10-23
• 「给 agent 用的 Product Hunt」上线:按真实调用排出的工具榜 — claudeai · 2026-10-23

更多「编程与Agent」频道 AI 资讯 →