大模型路由给小模型省不了钱？实测成本反升 30%-89%
yb2698 · x · 2026-10-23
作者尝试用「Jev 式」决策模型把简单请求从 Qwen3.8-27B 路由到 Qwen3.5-9B 以节省成本,并附上按 trial 计的成本对比图。
结果显示不同 agent harness 下结论完全不同:IPython agent 反而比 27B 单跑贵 +30%,Pi 贵 +89%,只有 Claude Code(-1%)和 Qwen Code(-7%)勉强持平或略省——但这两个 harness 的 prompt 高达 17k-34k token,本身开销就大。路由决策模型 d3 价格约等于免费。
后续实验细节:从 TB-Lite 抽 10 个 hard 任务、每任务跑 3 次,在大模型侧测试 IPython/Pi/Claude Code/Qwen-Code 四种 harness,小模型侧用纯 IPython。核心教训:路由省下的模型费用很容易被 harness 的 token 开销吃掉,省不省钱取决于整体协议设计而非模型大小。
所属事件:实测大模型路由小模型省钱：小harness成本反升30%-89%(5 条相关)→
「编程与Agent」频道最新
- Garry Tan 力挺 Aside Browser：让 Agent 真正用好网页的解法 — garrytan · 2026-10-23
- Monid 发布 Agent 工具真实用量榜：TinyFish 居首周处理 75 万次 — HeyAmit_ · 2026-10-23
- MCP 服务器 30 天后暗藏窃取 SSH 密钥指令，作者开源 mcp-guard 防变节 — ErgoniaWorks · 2026-10-23
- 实测：不在 AGENTS.md 里写明的 MCP 工具，编码 Agent 不会用 — colinmcnamara · 2026-10-23
- 用开源模型+Claude 把一段网球视频变成世界级教练 — tweetsatpreet · 2026-10-23
- 132 个免费开源 AI Agent 与 RAG 项目合集，星标 1.65 万 — Arindam_1729 · 2026-10-23