自动模型路由怎么计费?按实际运行模型结算的方案讨论

Colddew-YJ · reddit · 2026-09-07

作者提出:当系统自动为用户选择模型时,路由决策与计费决策不能分开处理。其方案是在任何预扣费之前先确定最终模型,成功后按实际 token 用量结算,失败则走现有退款路径,避免只为「被考虑过」而非真正运行的模型收费。方案目前仅本地验证,尚未生产验证。作者同时发问:自动路由场景下应展示实际运行的模型和成本依据吗?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →