实测 5 款省 Token 工具:宣称节省 60% 实际仅 30%
Obvious_Gap_5768 · reddit · 2026-08-08
作者针对多款声称能大幅节省 Token 消耗的 AI 编码辅助工具进行了严格基准测试。在基于 SWE-bench 的 48 个 Django 问题上进行 261 次运行后发现,没有任何工具能达到其宣称的 60% 到 90% 的节省率。
核心测试结果:
- 表现最好的是 repowise,实际节省约 31.6% 的输出 Token;CodeGraph 位列第二,节省 24.4%。
- Serena 表现异常,它比裸跑的 Agent 编写得更少,但调用工具的频率却高出 42%,反而更繁忙。
- Claude Code 兼容性问题:在 Claude Code 环境下,大多数工具几乎未被调用。这可能是因为 Claude Code 按需加载 MCP schemas,导致 Agent 经常找不到工具,而 Codex 是预先挂载的。
- 代码质量:盲测显示,没有任何工具在代码质量上明显胜出,甚至略微低于不使用工具的基准线。
作者还使用 ContextBench 进行了确定性检索基准测试,以评估工具能否准确提取修复所需的实际文件。
「编程与Agent」频道最新
- Claude Code 推出远程控制功能,编码效率提升 — rohanpaul_ai · 2026-08-24
- Vercel CEO rauchg 详解 fx 扩展哲学:MCP、Skills、插件与 Unix 组合 — AccBalanced · 2026-08-24
- Netflix 揭秘 LLM Judge 生产实践:每周评估数十万条推荐解释 — omarsar0 · 2026-08-24
- Simon Willison 用 Fable 5 实测 smolvm:硬件级隔离沙箱获认可 — yawnxyz · 2026-08-24
- Claude EA 项目:集成 Notion 与 iMessage 的虚拟助手 — willcb · 2026-08-24
- LenOS:强调人工责任与可审计性的 Agent 工作流框架 — cableroots · 2026-08-24