开发者开源 ModelSpend:追踪 LLM 开销并自动路由到最便宜的够用模型

Fine_Airline_6832 · reddit · 2026-10-14

作者在用 LLM API 做个人项目时想搞清钱花在哪、是否每个请求都需要当前所用模型,于是开源了 ModelSpend:追踪 AI 支出,并把请求路由到「最便宜且够用」的模型。

他坦言难点在「够用」(suitable)——选最便宜的模型容易,判断它对某个任务是否足够好才难,并征集开发者反馈:你在实际中如何权衡这个取舍?要看到什么证据才会信任一个路由器替你选更便宜的模型?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →