Headroom 宣称最多省 95% token,代码智能体实测更接近 20%
alex_verem · x · 2026-07-25
Headroom 是一个给 AI agent 用的上下文压缩层,位于 agent 和大模型之间,会在请求进入 token 计费前压缩工具输出、日志、JSON、RAG 片段等结构化内容。
- 项目自己写的效果是:对 JSON/结构化数据可减少 60–95% token,但对 编码类 agent 只有 15–20%。
- 一位 GitHub Copilot 团队工程师实测后认为,在真实工作流里结果是 中性甚至负面:压缩会删掉模型仍需要的上下文,模型随后会要求看原文,最终 token 反而更多。
- 仓库还提到,Chopra 在 Open Source Summit 演讲中称该项目累计节省了 700K 美元、覆盖 2000 亿 tokens;但对普通 coding agent 来说,社媒里流传的 “95%” 主要只适用于结构化机器数据,不适用于大多数代码场景。
所属事件:AI上下文压缩工具Headroom实测:编程场景仅省20% token(2 条相关)→
「编程与Agent」频道最新
- Bindu Reddy:自我改进 AI 代理可让应用成本降 10 倍 — bindureddy · 2026-07-25
- llama.cpp 原生 MTP 在稠密模型上提速 1.4x–2.2x — UsedMorning9886 · 2026-07-25
- CachyLLama 把 KV 缓存落盘,15,700 token 提示词降到 1 秒内 — UsedMorning9886 · 2026-07-25
- OpenAI 230 美元 Codex keypad 加了推理强度旋钮 — HaktanSuren · 2026-07-25
- Claude 搭出 NBER 390 场讲座搜索页,直跳视频起点 — joshgans · 2026-07-25
- 用AI Agent搞定全网调研,极客分享买铂金包的硬核操作 — teodorio · 2026-07-25