开源小模型路由器 jev:一次提问成本从 $0.24 降到 $0.0001
1337NET · reddit · 2026-09-21
- Reddit 用户分享了基于 TypeSafe AI 的小型路由模型 JEV 构建的 CLI 工具,在昂贵模型前加一层路由:先读问题,再决定交给哪个模型回答。
- 实测示例:简单问题路由到 Haiku($0.0001),复杂的多区域 Postgres 故障切换问题路由到 Opus($0.2434)。
- 路由本身开销约 300ms 和 200 tokens;不需要每次判断正确,只要正确率高到能覆盖路由成本。路由失败(超时、JSON 错误)会回退到默认档位,保证请求不失败。
- 代码 TypeScript 编写、零依赖、MIT 协议,已开源在 GitHub(adityaarakeri/jev-router)。作者还询问是否有基于 embedding 相似度、长度启发式等非模型调用的路由方案。
「编程与Agent」频道最新
- 网友组合 Jev 与 BaoCut，一句话即可检索长视频片段 — dotey · 2026-09-21
- 开源 claude-ops：57 技能 21 agent 把 Claude Code 变业务操作系统 — tom_doerr · 2026-09-21
- Pragmatic Engineer 深挖:OpenAI 内部如何被 Codex 全面接管 — AxSaucedo · 2026-09-21
- 给 Agent 配一部手机,它就成了随身私人秘书 — ethanniser · 2026-09-21
- 实测+200 项基准：编码 Agent 面对不该改的任务，35-65% 仍乱改代码 — RunAI_Coder · 2026-09-21
- 让第二个 LLM 盯着编码 Agent：用独立验证模型揪出假成功 — Ascend-910 · 2026-09-21