Agent 里直接做模型级故障切换
mark_automates · reddit · 2026-07-15
作者在一个基于 agent 的工作流里做了**模型级故障切换**：主模型一旦超时或报错，就自动切到备用模型，而不需要单独写一条错误处理分支。 他还加了两层保障： - **memory buffer**：在主备模型切换时保留会话上下文 - **strict schema**：无论由哪个模型生成，最终输出都保持同一种固定结构 这样路由层只会收到一个准时、格式一致的结果，再按 true/false 分流处理。作者最后也在问，生产环境里大家更倾向于这种模型内置 failover，还是单独做 supervisor / retry agent。