开发者实测:AI 智能体提速 15% 成本仅涨 0.6%,模型自己承认高估了 token 开销

dosco · x · 2026-11-18

开发者 dosco 分享与模型对话的截图:他质疑「cache token 便宜 90%、输出 token 也降了,为什么不算改进」,模型随后承认自己之前过度看重原始 token 数——在 AppWorld 基准上,该变体在估计成本基本持平的情况下平均快 15%,成功率同为 10/16;按 Luna 定价,单任务成本从 $0.02900 升到 $0.02918,仅涨 0.6%,输出 token 减少 23%,节省几乎抵消了额外缓存写入。

模型还指出提速主要来自减少 checkpoint 摘要,且 ToolSandbox 上反而更慢更贵,因此该提速目前只适用于 AppWorld 样本。作者借此调侃:模型擅长爬坡优化,但并不真正理解自己在做什么,「品味」仍要靠人。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →