LLM 推理成本怎么按团队归因
Extreme_Tangelo8336 · reddit · 2026-07-18
作者提到，随着 LLM 从少数产品功能扩展到内部工具、智能体、客服工作流和评测，**推理成本归因**开始变得棘手： - 厂商控制台通常只能看到 token 用量，但财务需要知道到底是哪个团队、哪个项目花了钱。 - 基础设施团队往往能看到原始使用量，财务却只看到一张总账单，中间层的归因能力还不成熟。 - 作者认为可行方向是把**应用层打标**和**内部报表**结合起来，并询问大家现在是如何正式管理这件事，还是仍然把它当作共享基础设施成本。