Caveman 优化 Agent 上下文表示，输入 Token 暴降 33%
VeryVexxy · reddit · 2026-08-13
开发者分享了其项目 Caveman 在优化 AI Agent 上下文方面的进展与实测数据。
此前，Caveman 作为一种减少编码 Agent 输出 Token 的方案，宣称能降低约 65% 的输出 Token。但 JetBrains 进行的独立长程编码任务测试显示，实际降幅仅为 8.5%。开发者复盘发现，差异源于基准测试的范围：在复杂任务中，模型输出仅占总流量的一小部分，而 Agent 请求会反复携带对话历史、源文件、工具结果等庞大上下文。
为此，开发者将优化重心转移到了输入端的上下文表示上。通过在 Agent 与模型提供商之间部署本地 Caveman 代理来压缩或重构符合条件的上下文，在 54 次基准测试中，提供商报告的输入 Token 下降了 33.2%，且 18 项精确答案检查全部通过。此外，将现有技能表示为多模态图像上下文，也使其占用空间减少了约 70%，检索准确率保持约 99%。
开发者总结认为，Agent 的效率在很大程度上取决于上下文的表示方式，而不仅仅是提示词工程。
「编程与Agent」频道最新
- 开发者构建 8 个 MCP 服务器,用 AI 搞定医保拒赔申诉 — aidenhartxxx · 2026-08-13
- 复杂 AI 智能体架构本质：图工程缺失了图 — mattturck · 2026-08-13
- 突破LLM上下文限制：Pi团队详解对话压缩工程实践 — viksit · 2026-08-13
- 企业数据底座薄弱，如何避免 AI 工具栈陷入无序扩张？ — West_Kangaroo7132 · 2026-08-13
- Grok Bot 录屏教学惊艳全场，初创死敌客观复盘四大劣势 — NoSpecific64 · 2026-08-13
- TRL 新版异步训练器让 GRPO 提速 2-4 倍 — _lewtun · 2026-08-13