实测:智能模型路由让 120 个任务成本降 69%,成功率仍达 99.2%
shensi · x · 2026-09-09
Merge 团队针对「模型路由只能靠换便宜开源模型省钱」的普遍假设做了反向验证:仅在 Anthropic、OpenAI 和 Google 三家旗舰/官方模型范围内做智能路由。结果在 120 个相同任务上,成本降低 69%,每次请求响应更快,成功率仍保持 99.2%。
关键信息:
- 结论:即使不引入便宜的开源模型,仅在不同闭源模型间按任务智能分配,也能大幅降本提速。
- 依托其 Merge Gateway 产品:单一 API 接入多家 LLM,内置智能路由、成本管理与安全控制。
- 页面给出了 Python/TypeScript SDK 接入示例(openai/gpt-5.6-luna、anthropic/claude-haiku-4-5、google/gemini-3.1-flash-lite 等路由目标)。
这是一条带自家产品评测性质的宣传,但给出了具体数字与可验证的测试口径,对生产环境 LLM 网关选型有参考价值。
所属事件:实测智能路由:旗舰模型间调度也能降本 69%(2 条相关)→
「编程与Agent」频道最新
- 零基础学员经 AI 辅导也能跑通完整 CI/CD 流水线 — curious_vii · 2026-10-26
- Ruff 作者感叹:前沿模型能在任何软件里找到无穷多 bug — charliermarsh · 2026-10-26
- 开发者实测同一 skill 跨 Opus 5.5 与 Sol 6.1:指令遵循表现参差 — lucasmeijer · 2026-10-26
- 用小开源模型逆向工程游戏二进制:主 agent 中途重写子 agent 的 harness — yb2698 · 2026-10-26
- ContractSim:首个评估 LLM 自然语言合同谈判的框架 — xuanalogue · 2026-10-26
- Hugging Face 线下研讨会:微软、Mercor 等四方实战分享 Agent 后训练方法 — Hugging Face · 2026-10-26