博主混用开源模型省 token:Opus 干硬活,便宜模型跑「软件工厂」

dbreunig · x · 2026-11-08

dbreunig 分享他的日常 token 用量结构:虽然 Opus 5.5 很强,但他大部分 token 消耗在较简单的「软件工厂」流水线(用 ds4-flash、glm 5.3)和一个调优过的 Hermes agent(用 meta spark)上。

这些开源模型通过 LunaRoute 推理服务运行——该服务按并发 lane 计费而非按 token 计费,作者认为这种模式非常出色。这是一个典型的多模型分层调度实践案例:难活给前沿模型,批量简单任务交给按并发计费的开源模型。

所属事件:博主分享混用开源模型省 token 的实战经验(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →