有状态故障转移:多供应商切换的关键不是有响应,而是带上任务状态

its_vayishu · x · 2026-09-24

metriqual 提出了一个 LLM 供应商故障转移（failover）的架构区分：传统 failover 只问「另一家供应商是否返回了响应」，而 stateful failover 问的是「另一家供应商是否返回了带继续任务所需状态的响应」。

作者指出这两者听起来相似，但在架构上是完全不同的系统。其创业项目正是解决这一问题——当应用在供应商之间切换时，保留任务继续执行所需的状态。