开发者实测:AI 智能体提速 15% 成本仅涨 0.6%,模型自己承认高估了 token 开销
dosco · x · 2026-11-18
开发者 dosco 分享与模型对话的截图:他质疑「cache token 便宜 90%、输出 token 也降了,为什么不算改进」,模型随后承认自己之前过度看重原始 token 数——在 AppWorld 基准上,该变体在估计成本基本持平的情况下平均快 15%,成功率同为 10/16;按 Luna 定价,单任务成本从 $0.02900 升到 $0.02918,仅涨 0.6%,输出 token 减少 23%,节省几乎抵消了额外缓存写入。
模型还指出提速主要来自减少 checkpoint 摘要,且 ToolSandbox 上反而更慢更贵,因此该提速目前只适用于 AppWorld 样本。作者借此调侃:模型擅长爬坡优化,但并不真正理解自己在做什么,「品味」仍要靠人。
「编程与Agent」频道最新
- Stitch 推出银行内置 AI 代理,可在监管权限内自动执行任务 — CurieuxExplorer · 2026-11-18
- Seroter 每日阅读:Agentic 工程分层与 AI 时代 Git 存废之争 — rseroter · 2026-11-18
- 微软 Ignite LAB663 实操课:用 GitHub Copilot 与 Model Router 持续优化智能体 — lee_stott · 2026-11-18
- 设计师实测发现:模型看不出自己生成结果里的 AI 味偏差 — petergyang · 2026-11-18
- 开发者推出 Aware 浏览器:用 Feed 流作为与 AI Agent 交互的界面 — HaijunXia · 2026-11-18
- 开源 Ramen 1.0:带 SSO、护栏与评测门禁的团队级 MCP 平台 — Ok_Plum3595 · 2026-11-18