Tim Dettmers 开源 CliffCompaction,长程 Agent 省 50% 成本

9 月 23 日,Tim Dettmers 在其开源周发布第二个项目 CliffCompaction(实际工作由其学生 Trang 与 Eulrang Cho 完成),附论文、代码、PyPI 包、博客与视频讲解。这是一个面向编码 agent 的上下文自动压缩工具,可在有界上下文内支撑百万级 token 会话,并降低最多 50% 的 token 成本;Dettmers 自述已使用数月,称没有它就不会用 agent。值得注意的是,他据此观察到开源权重模型在长程会话中反超常隐藏推理过程的闭源模型,上下文管理工具可能改变两者的相对竞争力。

已确认

• 发布形态:论文、代码、PyPI(pip install cliff…)、博客与视频教程齐全,属开源周第二弹
• 接入方式:两行命令即可接入,与 Codex、Claude Code 均易搭配,且已集成进 Dettmers 的自主研究 harness bitsandbytes code
• 使用效果:Dettmers 自述已使用数月,没有它就不会用 agent;它让百万 token 级会话变容易,token 成本省一半,配额能用更久
• Dettmers 透露当前主力模型为 DeepSeek v4.1 与 MiMo v2.6 Flash,两者配合 CliffCompaction 在长程、中等复杂度任务(如工程与内核开发)上轻松胜过 Astra

尚未确认

• 「省 50% 成本」「开源模型长程反超闭源」等结论目前主要来自 Dettmers 本人的使用观察与讨论串补充,尚缺独立第三方验证

为什么重要

• Dettmers 指出该工具需配合完整 thinking traces 效果才更好,这与前沿实验室的说法一致——OpenAI 的数学与 ARC-AGI 成绩被认为很大程度来自思维链
• 由此他观察到开源与闭源模型的有用度出现分化:长程会话中开源权重模型明显更强,且不同模型的「压缩质量」本身存在差异
• 这意味着上下文管理工具可能改变开源模型与闭源模型的相对竞争力

2026-09-23 ~ 2026-09-23 · 8 条相关

• 【源头】Dettmers 开源 CliffCompaction:长程编码 Agent 省 50% token 成本 — Tim_Dettmers · 2026-09-23
• Dettmers 开源周发布 CliffCompaction:百万 token 会话,成本省 50% — Tim_Dettmers · 2026-09-23
• Dettmers:用 CliffCompaction 数月,token 成本省一半 — Tim_Dettmers · 2026-09-23
• Dettmers:CliffCompaction 配合完整思维链效果更好 — Tim_Dettmers · 2026-09-23
• Dettmers:配上 CliffCompaction,开源模型长程能力反超闭源 — Tim_Dettmers · 2026-09-23
• Dettmers 换主力:DeepSeek v4.1 长程工程任务压过 Astra — Tim_Dettmers · 2026-09-23
• 【源头】CliffCompaction 两行命令接入 Codex,开源模型压缩更优 — Tim_Dettmers · 2026-09-23
• 【源头】Tim Dettmers 开源 CliffCompaction:两条命令管理 AI 编码上下文压缩 — Tim_Dettmers · 2026-09-23