Headroom 宣称最多省 95% token,代码智能体实测更接近 20%
alex_verem · x · 2026-07-25
Headroom 是一个给 AI agent 用的上下文压缩层,位于 agent 和大模型之间,会在请求进入 token 计费前压缩工具输出、日志、JSON、RAG 片段等结构化内容。
- 项目自己写的效果是:对 JSON/结构化数据可减少 60–95% token,但对 编码类 agent 只有 15–20%。
- 一位 GitHub Copilot 团队工程师实测后认为,在真实工作流里结果是 中性甚至负面:压缩会删掉模型仍需要的上下文,模型随后会要求看原文,最终 token 反而更多。
- 仓库还提到,Chopra 在 Open Source Summit 演讲中称该项目累计节省了 700K 美元、覆盖 2000 亿 tokens;但对普通 coding agent 来说,社媒里流传的 “95%” 主要只适用于结构化机器数据,不适用于大多数代码场景。
所属事件:AI上下文压缩工具Headroom实测:编程场景仅省20% token(2 条相关)→
「编程与Agent」频道最新
- 同一套 DeepSeek 内核两种优化路线:vLLM 拆专家、SGLang 降访存 — AccBalanced · 2026-10-27
- 用 Tailscale 让云端 Grok Bot 在自己 Mac mini 上写代码,全程不开公网端口 — talkaboutdesign · 2026-10-27
- 工程师数月实践:Agent 每次调用重发全量上下文,改一个 token 全额付费 — dscape · 2026-10-27
- Alchemy 支持 Effect Workflow:跨 Durable Objects、Workflows 与 Lambda 持久函数 — samgoodwin89 · 2026-10-27
- Alchemy 推出 Lambda Web Functions,Node 版 Web 服务器直接上 Lambda — samgoodwin89 · 2026-10-27
- Alchemy 全部约 2850 个 AWS binding 现已跨云可用 — samgoodwin89 · 2026-10-27