7000用户实测后放弃：为什么我们不再相信LLM路由
nuno6Varnish · reddit · 2026-07-31
在经历了 4 个月、覆盖 7000 名云用户的实际使用后，开发团队决定关停他们的 LLM 路由系统，回归单一模型。
团队得出以下核心结论：
- 无法仅凭 prompt 判断复杂度：路由系统难以准确评估请求的实际负荷。
- 缓存比路由更省钱：在降低成本方面，命中缓存的收益远超路由分配。
- 破坏行为一致性：在不同模型间切换会导致输出风格和逻辑的不稳定。
- 不可预测性本身具有成本：路由带来的不确定性增加了系统维护与调试的开销。
所属事件:Manifest弃用LLM路由器，回归单一模型(5 条相关)→
「编程与Agent」频道最新
- 用 Codex 17分钟写好 iPhone Duo 抢购程序，41项测试通过 — xiaohu · 2026-10-16
- 生成式 CAD 工具 NativeCAD 提供 177 个 MCP 工具，85% 以上英文建零件需求可通过 — burhop · 2026-10-16
- Flux AI CAD 支持导入 STEP 文件后用自然语言直接改型 — burhop · 2026-10-16
- 同时开 50 个 AI 任务是充电还是烧脑?开发者吵起来了 — zack_overflow · 2026-10-16
- 创业者用 Opus 一次清掉 3 万行技术债,印证「等新模型来重构」策略 — lucasmeijer · 2026-10-16
- 日本工程师用 tmux 搭建 AI agent 组织：每项目一队，人只对接总管 — 4310sy · 2026-10-16