新论文实测 5 种上下文压缩策略:几乎都不影响 benchmark 成绩
khademinori · x · 2026-11-04
arXiv 论文《Benchmarks Are Surprisingly Compaction-Friendly》首次在真实长程 agentic 任务上系统评估上下文压缩(compaction)。团队固定 OpenCode 脚手架,实现 5 种压缩策略,在 PaperBench、ProgramBench、PostTrainBench 上测试 3 个前沿模型。
主要发现:
- 对 1M 上下文模型,压缩阈值对任务成绩无可测量影响;上下文最小的 GPT-5.3-Codex 在低阈值下成绩变差
- 反直觉:压缩方法和阈值基本不影响性能,没有任何方法优于朴素的自我摘要(self-summarization)
- 但压缩会丢掉大量初始规则;后发现的约束、规则的合法变更如何保留仍是开放问题
- 作者呼吁设计新类 agentic benchmark 来评估压缩——需要 agent 从环境交互中学习规则、规则可被覆盖或冲突的场景,因为压缩可能丢掉 agent 关于「是否违规」的不确定性推理
「编程与Agent」频道最新
- Compound Engineering 3.35 发布:知识沉淀从文档升级为测试与规则 — kieranklaassen · 2026-11-04
- 生物科技公司每日 Wiki Agent:一句话 prompt 自动沉淀隐性知识 — nlarusstone · 2026-11-04
- 理解代码才能写出好 prompt,作者称对 0 到 1 创作尤其关键 — brandon_xyzw · 2026-11-04
- 陶哲轩预言「实验数学」爆发:AI 将绘出数学难度地图 — haider1 · 2026-11-04
- exe.dev 博客:把静态密钥放进反向代理,Agent 时代更该如此 — davidcrawshaw · 2026-11-04
- 曝 Claude 将自动信任可信插件签发方,减少 Agent 重复授权 — testingcatalog · 2026-11-04