LiteLLM账单暴涨暴露成本归因缺失
LongIndustry7208 · reddit · 2026-07-07
团队使用LiteLLM约8个月后,财务发现LLM账单翻了三倍却无法归因到具体团队或应用,代理仅按整体池统计。作者正自建标签、按密钥预算与仪表盘做成本分摊,询问这是否为普遍路径,还是应转向原生支持按团队计费的方案。
LongIndustry7208 · reddit · 2026-07-07
团队使用LiteLLM约8个月后,财务发现LLM账单翻了三倍却无法归因到具体团队或应用,代理仅按整体池统计。作者正自建标签、按密钥预算与仪表盘做成本分摊,询问这是否为普遍路径,还是应转向原生支持按团队计费的方案。