实测:智能模型路由让 120 个任务成本降 69%,成功率仍达 99.2%
shensi · x · 2026-09-09
Merge 团队针对「模型路由只能靠换便宜开源模型省钱」的普遍假设做了反向验证:仅在 Anthropic、OpenAI 和 Google 三家旗舰/官方模型范围内做智能路由。结果在 120 个相同任务上,成本降低 69%,每次请求响应更快,成功率仍保持 99.2%。
关键信息:
- 结论:即使不引入便宜的开源模型,仅在不同闭源模型间按任务智能分配,也能大幅降本提速。
- 依托其 Merge Gateway 产品:单一 API 接入多家 LLM,内置智能路由、成本管理与安全控制。
- 页面给出了 Python/TypeScript SDK 接入示例(openai/gpt-5.6-luna、anthropic/claude-haiku-4-5、google/gemini-3.1-flash-lite 等路由目标)。
这是一条带自家产品评测性质的宣传,但给出了具体数字与可验证的测试口径,对生产环境 LLM 网关选型有参考价值。
所属事件:实测智能路由:旗舰模型间调度也能降本 69%(2 条相关)→
「编程与Agent」频道最新
- GRID 推出 Auto-Engineering:让 Agent 自主构建机器人技能 — akapoor_av8r · 2026-09-10
- Firecrawl 推出付费版按量计费:自动 $5 充值加可控月度上限 — devdigest · 2026-09-10
- Google ADK for Kotlin 1.0 发布:多平台、编译期工具 schema — fhinkel · 2026-09-10
- 谷歌发布Data Agent Kit:在IDE中完成数据工作流 — rseroter · 2026-09-10
- 睡前启动 30 个 Agent,一小时后 Windows 自动更新重启全没了 — kevinnbass · 2026-09-10
- YC 新品 Dock 发布:一群会协作交接的主动式 AI 员工 — ycombinator · 2026-09-10