别只盯 token 单价:agent 成本真指标是每完成任务的美元数

arpit_bhayani · x · 2026-11-16

Arpit Bhayani 指出构建 agent 时大家只关注 token 定价,却忽略 agent 循环收敛速度。每次工具调用都会重发对话历史,prompt caching 能降低但无法免除成本。失败的尝试或冗余工具调用会增加上下文和轮次,导致裁剪上下文或换便宜模型可能适得其反——省了单价,却多出两轮纠错,每轮历史更长。他主张追踪的核心指标是「每个完成任务的成本」,包含重试、浪费轮次和失败运行;应通过更清晰的指令和更可靠的工具来减少循环迭代。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →