Spotify 用廉价模型分流大文件读取,Claude Code token 用量降 90%
aliscodes · x · 2026-09-07
Spotify 工程团队发文介绍其 Claude Code 省钱方案:大部分 agent 工作其实是 I/O——读文件、按模板生成测试、更新文档,这些都被喂给了贵得离谱的前沿模型。他们的解法是一个叫 shunt 的插件,用两个廉价模型(示例用 Gemini 2.5 Flash)接管脏活:
- bulk-reader:打开长文件只回传要点 bullets,每条带准确的名称/类型/行号,不带客套话;
- code-writer:把无聊的生成文件直接写盘,让 Claude 不必回读自己的输出。
关键经验:用 hook 而不是指令。他们最初把规则写进 claude.md 让 Claude 用廉价模型,结果 Claude 无视规则照读不误;于是改为系统级拦截——超过 350 行的文件读取一律被阻断并路由给 bulk-reader,cat/head/tail 读大文件也被拦,但带 offset 的局部读取放行(那是真实编辑需要)。
效果与代价:在 16.2 万行的 Java 仓库上,三次 bulk-read 测试使进入 Claude 的上下文分别减少 82%、94%、94%(注意省的是进入 Claude 的 token,不是总账单)。贵模型只负责编辑、bug、架构和安全关键问题——有一次廉价 worker 漏掉线程安全问题,Claude 拿到正确片段后立刻抓了出来。每次交接增加 10-30 秒,小文件不值得路由。
作者还给出无插件的轻量版做法:让廉价模型通读长文档回传要点,再把要点+一段粘贴的原文切片交给贵模型。
所属事件:Spotify 开源 Shunt 路由方案省 90% Claude Code token(6 条相关)→
「编程与Agent」频道最新
- Grady Booch 引 Weinberg 名言讽软件质量:第一只啄木鸟就能摧毁文明 — Grady_Booch · 2026-10-23
- 一个 agent 顶半个 SDR 团队:线索研究评分到邮件起草全自动 — tibo_maker · 2026-10-23
- 吐槽 coding agent harness 普遍缺自带沙箱,仅 amp 提供 BYOSandbox — Aryvyo · 2026-10-23
- 用 Codex 造 VST 合成器接入 DAW,AI 在录音室里实时即兴演奏 — Yamapama · 2026-10-23
- AgentsInTheCloud 更新:可复用 Claude 订阅的内置 Agent — lucasmeijer · 2026-10-23
- 手机 Agent 死结:银行 App 防截屏,而无障碍读取形同木马 — ghostmalone02 · 2026-10-23