小模型 token 占比仍极低,多层路由省钱实验求反馈
yb2698 · x · 2026-10-23
作者在做让小模型承担大部分工作、大模型按需介入的路由实验。观察发现:即使统计委派给小模型的对话轮数后结论仍然成立,但小模型在输出 token 中占比依然很小。作者进一步思考如何推进——换不同的小模型、或采用不同的路由机制,并公开征求反馈。
所属事件:实测大模型路由小模型省钱:小harness成本反升30%-89%(5 条相关)→
「编程与Agent」频道最新
- Garry Tan 力挺 Aside Browser:让 Agent 真正用好网页的解法 — garrytan · 2026-10-23
- MCP 服务器 30 天后暗藏窃取 SSH 密钥指令,作者开源 mcp-guard 防变节 — ErgoniaWorks · 2026-10-23
- 实测:不在 AGENTS.md 里写明的 MCP 工具,编码 Agent 不会用 — colinmcnamara · 2026-10-23
- 用开源模型+Claude 把一段网球视频变成世界级教练 — tweetsatpreet · 2026-10-23
- 132 个免费开源 AI Agent 与 RAG 项目合集,星标 1.65 万 — Arindam_1729 · 2026-10-23
- Google Agents CLI 开放扩展系统,v1.8.0 官方支持 LangChain — rseroter · 2026-10-23