Spotify 用智能路由砍掉 90% Claude Code token 消耗
unixterminal · x · 2026-09-08
- Spotify 工程博客披露其内部工具 Portal 通过「模型路由」将 Claude Code 的 token 消耗降低了 90%：大多数 agent 工作（读大文件、生成样板代码、更新文档）几乎不需要推理，却烧掉了大量昂贵的前沿模型 token。
- 作者只用了两个声明式 agent mode 就实现路由：bulk-reader 用 Gemini 2.5 Flash 这类廉价模型替代 Claude 做批量文件读取，结果缓存后复用；重活交给便宜模型，贵模型只处理真正需要思考的问题。
- Portal 的 mode 类似「agent 版 AWS Lambda」：定义指令、选模型、设参数、挂 MCP 工具，无需管理基础设施，可通过 CLI/API 调用，分公有/私有。
- 背景数据：预计到 2028 年 AI 编码成本将超过开发者平均薪资；已有 1/4 工程负责人每月为每个开发者支付 200-500 美元 token 费用，个别超过 2000 美元。
- 帖主 unixterminal 还预购了 Arduino VENTUNO Q（Ubuntu + .NET + ONNX，Qualcomm 40 TOPS），打算跑 SLM 在本地做同样的模型调用路由与缓存。
所属事件:Spotify 开源 Shunt 路由方案省 90% Claude Code token(6 条相关)→
「编程与Agent」频道最新
- Grady Booch 引 Weinberg 名言讽软件质量：第一只啄木鸟就能摧毁文明 — Grady_Booch · 2026-10-23
- 一个 agent 顶半个 SDR 团队：线索研究评分到邮件起草全自动 — tibo_maker · 2026-10-23
- 吐槽 coding agent harness 普遍缺自带沙箱，仅 amp 提供 BYOSandbox — Aryvyo · 2026-10-23
- 用 Codex 造 VST 合成器接入 DAW，AI 在录音室里实时即兴演奏 — Yamapama · 2026-10-23
- AgentsInTheCloud 更新：可复用 Claude 订阅的内置 Agent — lucasmeijer · 2026-10-23
- 手机 Agent 死结：银行 App 防截屏，而无障碍读取形同木马 — ghostmalone02 · 2026-10-23