Spotify 用双模型路由砍掉 90% Claude Code token 消耗
SumitGup · x · 2026-09-06
Spotify 工程团队公布了内部配合 Claude Code 的方案「Portal」,将 token 用量降低 90%。核心观察:编码助手的绝大部分工作(打开五个文件回答一个问题、照抄相邻二十个测试的模式写新测试)并不需要前沿模型的推理能力,却按最高费率计费。
做法要点:
- 增加两个廉价「助手」模型:一个负责打开文件并返回简短摘要,另一个参照示例写重复性样板代码并直接写入磁盘,昂贵模型完全不接触这些工作。
- 超过 350 行的文件被硬性拦截,不让昂贵模型接触,而非「建议」避开。
- 他们先尝试过把规则写进 prompt,结果失效——工程师和模型都能绕过软性规则;在路由层做硬性封锁才真正奏效。
核心启示:多数人用前沿模型处理的编码工作流,其实并不需要前沿级推理,架构层的路由比 prompt 工程更有效。
所属事件:Spotify 用 Portal 双模型路由大幅降低 Claude Code token 消耗(2 条相关)→
「编程与Agent」频道最新
- Reddit 开发者求问:如何防止 Agent 提示词越改越退化 — SleepFlimsy6963 · 2026-10-23
- 接付费商单该用什么模型?Reddit 创作者晒 Claude Code+ComfyUI 工作流 — newaccount47 · 2026-10-23
- 社科学者批 AI 圈:把 Agent 开发当会自动变好的黑箱 — RexDouglass · 2026-10-23
- 网友 vibe coding 出 Tesla Roadster 小游戏,赶在 GTA VI 之前 — Jasonio · 2026-10-23
- Codex CLI 0.164.0 报 account/read 错误,重启 daemon 可解 — bytebot · 2026-10-23
- 同为原生 UI:Swift 版 80MB 仅限 Mac,Zig 版 10MB 三端通吃 — jedisct1 · 2026-10-23