6 个团队共用 API 账单没人说得清,一家公司拆解 LLM 成本管控方案
Fit_Program7076 · reddit · 2026-09-17
作者公司财务问各团队 LLM 花费时没人答得上来:6 个团队各自拿 API key 直连供应商,账单只有供应商一级的总账。文中复盘了三种方案:
- 人工填报:各团队主管手动打标上报,坚持了 6 周就失真;
- 轻量代理:代理给每个请求加 team header,有了可见性,但只是事后报告——团队一周烧穿预算、月底才知道;
- 网关级强制预算(文中提到 orqai 这类方案):按团队/项目设上限,请求发出前在网关拦截,财务实时看到支出。
作者结论是需要的不是 reporting 而是 enforcement。遗留问题:某团队临时有正当理由要超预算(burst usage)怎么办,正在征集其他团队的做法。注意文中提及的商业方案带有一定推广色彩。
「Infra」频道最新
- 黄仁勋：英伟达明年芯片销量将比今年翻一倍 — zephyr_z9 · 2026-09-17
- GlobalFoundries 与 Marvell 扩建佛蒙特厂，增产 AI 光互连芯片 — zephyr_z9 · 2026-09-17
- 26100 美元的桌面 AI 数据中心：双 RTX PRO 6000 开源工作站 — dee_hw · 2026-09-17
- 爆料称华为拟扩 4096 卡超节点，单节点 HBM 可达 384TB — zephyr_z9 · 2026-09-17
- Brad Gerstner：43GW 算力预测太激进，实际约 25GW 一半归 OpenAI/Anthropic — firstadopter · 2026-09-17
- Cohere 用单个 CUDA megakernel 服务 30B 模型,batch 1 达 292 tokens/秒 — dl_weekly · 2026-09-17