LangChain 工具调用成本追踪实践:四类 token 必须分开计量
Normal-Blueberry-385 · reddit · 2026-09-03
作者分享用 Arize Phoenix + OpenTelemetry 为 LangChain 应用搭建 token/成本可观测性的方案,核心主张是把四类计量严格分开:
- LLM 生成工具调用:输入/输出 token 及成本
- 工具执行本身:工具名、参数、延迟、输出、输出规模、提供方成本
- 工具输出被消费:计入下一次 LLM 请求的输入 token 及成本
- 最终 LLM 回复:输出 token 及成本
作者给出了具体 trace 示例(LLM#1 → Tool → LLM#2 各阶段的 token 与成本数字),强调工具输出的 850 token 不能算作 LLM 输出 token。实现方案是自定义 BaseCallbackHandler,通过唯一的 tool.call.id 关联 LLM→工具→输出的父子 span。还列出了集中式定价配置、敏感参数脱敏、追踪失败不中断 agent 执行等工程要求,并向社区征集相关实践经验。
「编程与Agent」频道最新
- n8n+Databox MCP 免费工作流:每周一自动汇总全平台广告周报 — aftahi_ai · 2026-09-03
- 用 TRL+OpenEnv 开源复现「写代码画水彩」模型全流程 — huggingface · 2026-09-03
- 开发者盛赞 Claude Design:配上设计系统后效果出色 — KlausCodes · 2026-09-03
- Anthropic 工程师 41 分钟讲透内部 AI 应用:循环与图谱是核心 — goyalshaliniuk · 2026-09-03
- Claude Code 超额后用 Cursor 加 Grok 4.6 子 agent 更省钱 — rudrank · 2026-09-03
- 开源企业记忆系统 Utopia:双时序知识图谱让知识可回溯 — aigclink · 2026-09-03