LangChain 工具调用成本追踪实践:四类 token 必须分开计量

Normal-Blueberry-385 · reddit · 2026-09-03

作者分享用 Arize Phoenix + OpenTelemetry 为 LangChain 应用搭建 token/成本可观测性的方案,核心主张是把四类计量严格分开:

作者给出了具体 trace 示例(LLM#1 → Tool → LLM#2 各阶段的 token 与成本数字),强调工具输出的 850 token 不能算作 LLM 输出 token。实现方案是自定义 BaseCallbackHandler,通过唯一的 tool.call.id 关联 LLM→工具→输出的父子 span。还列出了集中式定价配置、敏感参数脱敏、追踪失败不中断 agent 执行等工程要求,并向社区征集相关实践经验。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →