Agent 供应商故障全挂,求助帖引爆容灾与降级方案讨论

Arkupathak · reddit · 2026-09-27

一位开发者自述单供应商架构的教训:供应商一降级,所有 agent 运行全部失败。他现在想做自动回退——模型 A 出错或超时就切到其他供应商的等价模型——并提出三个具体问题:1) 回退到同模型的其他托管方,还是干脆换模型?提示词并不总能平滑迁移;2) 自己造还是用网关?他提到 LiteLLM、Portkey、llmapi.ai 都宣称支持 fallback;3) 如何防止回退悄悄烧钱,比如落到更贵的模型上。帖中引出社区对 agent 生产环境容灾设计的讨论。