小模型 token 占比仍极低,多层路由省钱实验求反馈

yb2698 · x · 2026-10-23

作者在做让小模型承担大部分工作、大模型按需介入的路由实验。观察发现:即使统计委派给小模型的对话轮数后结论仍然成立,但小模型在输出 token 中占比依然很小。作者进一步思考如何推进——换不同的小模型、或采用不同的路由机制,并公开征求反馈。

所属事件:实测大模型路由小模型省钱:小harness成本反升30%-89%(5 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →