开源 Jev 路由器省 9 倍 token 成本,可复用 Claude Code 额度
airesearch12 · x · 2026-09-26
开发者 @airesearch12 发布了免费开源(MIT 协议)的 Jev 级模型自动路由器 whichmodel.app,称可在几乎无质量损失的情况下节省约 9 倍 token 成本。
核心设计与用法:
- 部署极简:curl -fsSL whichmodel.app.mintapis.com/install.sh | sh,或直接把 repo 链接丢给 agent 让其安装
- 可架在 Claude Code、Codex、opencode 或 Cursor 前面,优先消耗订阅计划内含额度,简单轮次转发到自有 key 的更便宜模型
- 路由决策约半秒完成:按当前请求给每个候选模型定价(含重做风险),选期望总成本最低者,便宜模型的回答发出前会被 Jev 复查
- 可用本地 Jev 级模型做决策、可路由到免费本地模型,并参考 benchmark heaven 的实测成绩与单位成本数据
一个常被忽视的细节:路由器会把 warm cache 纳入决策——已读前缀的供应商下一轮输入计费约降九成,换模型就要全价重写前缀,所以每轮问题不是「哪个模型最强」而是「为更强模型放弃热缓存值不值」。
「编程与Agent」频道最新
- dhh:人类独自审查关键代码将很快被视为极不负责任 — deliprao · 2026-09-26
- 网友做 Grok 机器人打包 750GB 开源模型,一键下载可本地运行 — RachelVT42 · 2026-09-26
- Codex 宕机后:他用 Claude Code 监控,再用 Jev 决定何时查 — Yuchenj_UW · 2026-09-26
- 用 Claude Opus 5.5 一次生成 promo 视频,开发者称视频动画已被解决 — JosephJacks_ · 2026-09-26
- dhh 用 Opus 5.5 一次将 Rust 移植为 x86-64 汇编,快 17 倍 — zack_overflow · 2026-09-26
- Anthropic 发文谈递归自我改进:工程师代码产出已增 8 倍 — dlwh · 2026-09-26