开源 auto-router 上线:感知缓存成本,自动为每次请求选最便宜模型

airesearch12 · x · 2026-09-21

开发者发布 Jev auto-router 更新:本地现已支持开源模型,并可在自己机器上复用已有的 Claude Code / Codex 订阅额度。路由决策约半秒完成,会为每个请求实际定价(含重试风险),选择期望总成本最低的模型;廉价模型的回答会先经检查再返回。核心洞察:大多数路由器忽略了 warm cache 的价值——同一供应商已读过对话前缀时,下一轮输入计费约为十分之一;换模型则整个前缀按全价重写。所以每轮的问题不是"哪个模型最好"而是"更好的模型值不值得放弃热缓存"。工具 MIT 协议开源,可放在 Claude Code、Codex、opencode 或 Cursor 前面,简单请求走便宜模型的自有 key,订阅额度留给真正需要的任务。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →