Manifest弃用LLM路由器，回归单一模型

Manifest团队宣布正式废弃其LLM路由器系统，回归使用单一经过验证的模型。该路由器于今年3月推出，6月正式弃用，并计划于9月1日彻底关闭。在长达4个月、覆盖7000名云用户的实际测试中，团队发现路由系统的实际表现未能达到预期。

已确认

• 复杂度无法准确预测：路由系统将请求分为简单、标准、复杂和推理四个等级，但团队发现仅凭提示词（prompt）无法准确评估请求的实际负荷与复杂度。
• 成本节省有限：团队指出，缓存（caching）机制带来的成本节省实际上远超通过路由为简单任务分配廉价模型所节省的费用。
• 单一模型更可靠：对于大多数实际用例而言，坚持使用单一模型被证明是最佳且最可靠的选择。

为什么重要

随着AI模型路由概念的大火，许多LLM网关都推出了根据请求复杂度动态分配模型以降低成本的功能。Manifest团队的实践与弃用决定为行业提供了重要的一手反例，揭示了动态路由在预测复杂度和实际降本方面存在的局限性，提醒开发者在追求路由降本时需谨慎评估其真实收益。

2026-07-31 ~ 2026-08-01 · 5 条相关

• 【源头】7000用户实测后放弃：为什么我们不再相信LLM路由 — nuno6Varnish · 2026-07-31
• Manifest弃用LLM路由器：单一模型更可靠，成本节省有限 — zats · 2026-08-01
• 为何我们下线了 LLM 路由器：复杂度难测，单模型更可靠 — mertdumenci · 2026-08-01
• 为什么我们废弃了LLM路由器 — rickasaurus · 2026-08-01

另有 1 条近重复转述:rickasaurus