开源 auto-router 上线:感知缓存成本,自动为每次请求选最便宜模型
airesearch12 · x · 2026-09-21
开发者发布 Jev auto-router 更新:本地现已支持开源模型,并可在自己机器上复用已有的 Claude Code / Codex 订阅额度。路由决策约半秒完成,会为每个请求实际定价(含重试风险),选择期望总成本最低的模型;廉价模型的回答会先经检查再返回。核心洞察:大多数路由器忽略了 warm cache 的价值——同一供应商已读过对话前缀时,下一轮输入计费约为十分之一;换模型则整个前缀按全价重写。所以每轮的问题不是"哪个模型最好"而是"更好的模型值不值得放弃热缓存"。工具 MIT 协议开源,可放在 Claude Code、Codex、opencode 或 Cursor 前面,简单请求走便宜模型的自有 key,订阅额度留给真正需要的任务。
「编程与Agent」频道最新
- 给 jev 加性能监控:Agent 每 5 秒观察瓶颈自动调参 — tomjohndesign · 2026-09-21
- 用 Charuco 标定板让 Claude 从照片反推产品尺寸并建模 — _Stocko_ · 2026-09-21
- 让 AI 实习生优化任务启动时间,中位数提速约 60% — DanielLockyer · 2026-09-21
- Anthropic 工程师 22 分钟搭出 Claude Code 异步自主工作流 — anthara_ai · 2026-09-21
- 砍掉读写编辑工具、只留 bash 给编码模型跑分会怎样? — lucasmeijer · 2026-09-21
- 8 种数据测试模式:让数据管道在进报表前先过八道关 — goyalshaliniuk · 2026-09-21