别只盯 token 单价:agent 成本真指标是每完成任务的美元数
arpit_bhayani · x · 2026-11-16
Arpit Bhayani 指出构建 agent 时大家只关注 token 定价,却忽略 agent 循环收敛速度。每次工具调用都会重发对话历史,prompt caching 能降低但无法免除成本。失败的尝试或冗余工具调用会增加上下文和轮次,导致裁剪上下文或换便宜模型可能适得其反——省了单价,却多出两轮纠错,每轮历史更长。他主张追踪的核心指标是「每个完成任务的成本」,包含重试、浪费轮次和失败运行;应通过更清晰的指令和更可靠的工具来减少循环迭代。
「编程与Agent」频道最新
- 把 11 周 agent 会话画成一张河流图:8000 条消息缠绕成「曲流带」 — dbreunig · 2026-11-16
- 微软开源 TokenEconomizer,为 Coding Agent 降本 18%–31% — aigclink · 2026-11-16
- 斯坦福 CS329Z 第 7 讲:MemGPT 与 AI Agent 记忆的四种模式 — zainhas · 2026-11-16
- Qwen4 Max 上线 OpenCode Go,通义官方宣布可即时体验 — Alibaba_Qwen · 2026-11-16
- 四年 harness 老兵断言:智能上限在模型,harness 已到平台期 — alexisgallagher · 2026-11-16
- 开发者用 Rust 打造 QuixiVoice:给任意 Agent 接上开源语音栈 — QuixiAI · 2026-11-16