为何我们下线了 LLM 路由器：复杂度难测，单模型更可靠

mertdumenci · x · 2026-08-01

随着 AI 模型路由（根据请求复杂度动态分配不同模型以降低成本）的概念大火，许多 LLM 网关都推出了相关功能。但 Manifest 团队在博客中宣布，他们在上线该功能 4 个月、服务 7000 名用户后决定将其彻底废弃。

团队在实践中发现，请求的复杂度很难在分发前被准确分类。他们最初将请求分为简单、标准、复杂和推理四个等级，但实际效果并不理想，引发了大量问题。最终他们认为，与其费尽心思搞动态路由，不如在大多数用例中直接坚持使用一个经过充分实战检验的模型，这是目前最稳妥的方案。