Together AI 推出金丝雀发布:模型升级不停机

Together AI 在 Dedicated Model Inference 上推出 Canary Rollout(金丝雀发布)功能,可在不停机的情况下升级线上端点背后的模型。核心机制是通过门控步骤将线上流量从旧模型逐步切到新模型,并基于指标自动判断回滚——官方称该机制曾捕获 137% 的延迟回退并自动回滚,保障生产环境稳定性。

2026-09-23 ~ 2026-09-23 · 2 条相关