优化 Agent 上下文结构,开发者每月省下 800 美元 Token 费
Final_Act_9658 · reddit · 2026-07-30
一位开发者分享了其开源项目 ContextOps,通过分析并优化 LLM 的上下文结构,每月可节省约 800 美元的 Token 成本,且不损失模型的推理能力。
核心发现与实践:
- 重复注入是元凶:在一个编码 Agent 的测试中,同一个 2500 行的文件被重复注入了 5 次,导致 Prompt 膨胀至 3.1 万 Token。
- 粗暴截断会破坏逻辑:如果直接用 [Tool Output: Truncated] 替换长文本,虽然 Token 降至 2800,但模型会完全丢失对话结构并给出错误答案。
- 去重与保留结构:保留首次出现的文件,将后续重复项替换为简短备注。这使得 Token 降至 9081(削减超 2.1 万),且模型依然能正确回答所有问题。
- RAG 系统优化:在包含 15 个文档的检索测试中,通过去除冗余的 XML 包装和重复的模板介绍,上下文从 4941 Token 缩减至 1941 Token(缩小 60%),模型依然完美回答了复杂的多文档问题。
作者总结道,并非所有 Token 都具有同等价值,识别并剔除重复的样板代码和工具输出,是当前 Agent 与 RAG 开发中最立竿见影的降本增效手段。
「编程与Agent」频道最新
- 智能体化身编译器:跨模型优化中实现经验复用 — yisongyue · 2026-07-30
- 实测 ARC-AGI-3:测试框架设计显著影响模型得分 — dkundel · 2026-07-30
- Peated正在开发“替我运行网站”AI Agent,可建议修改内容 — zeeg · 2026-07-30
- 每日阅读清单:智能体委派边界与不信任代码沙箱执行 — rseroter · 2026-07-30
- AI 修 Bug 常留隐患,开源安全面临新挑战 — curious_vii · 2026-07-30
- Codex 实用技巧:将提示词转化为可复用的自动化脚本工作流 — reach_vb · 2026-07-30