专题 · FULL STORY

Jev 上下文压缩方案:从提议到实测翻车

mitsuhiko 提出用 Jev 为 agent 做即时上下文压缩后,多位框架与模型作者公开质疑其上下文管理能力。随后 NousResearch 的 Teknium 实测该方案,发现打分更低、成本更高,争论由提议进入实测验证阶段。

2026-09-18 ~ 2026-09-20 · 2 集 · 7 条

第 1 集 · 社区激辩 Jev 逐行压缩方案:多位作者质疑其上下文管理能力(2026-09-18,5 条)

mitsuhiko 提出用 Jev 为 agent 做「即时 compaction」上下文压缩后,多位框架与模型作者公开提出质疑,形成一轮围绕上下文管理策略的激烈讨论。

已确认

  • Theo 针对 Jev「逐行压缩」方案逐点反驳,核心观点是压缩不是过滤器:Jev 对每次工具调用打分、丢弃无关内容以替代摘要式压缩,但如 pvncher 所转述,Jev 拿不到工具被调用时的推理痕迹作为上下文,无法理解工具调用背后的动机。
  • Teknium(Nous Research 联合创始人、Hermes 系列作者)多次表态:他曾多次拒绝为 Hermes Agent 合入相关 PR;他解释该方案在到达 500K 上下文时会删掉 250K 的工具调用 token;他判断 Jev 看起来连 50% 的上下文都砍不掉,算不上好的压缩,相比之下 Hermes 能把 95% 的上下文摘要出去。
  • 有网友请求 Teknium 为 Jev 更新 Hermes 以辅助上下文压缩,或做一个用 Jev 把 prompt 路由到最便宜可用模型的 mini harness,Teknium 明确回复 Jev 不可能在压缩上帮到那么多。

为什么重要

  • 这场争论触及 agent 上下文管理的根本分歧:是采用打分丢弃式(逐行压缩)还是摘要式压缩。多方观点一致指向:不了解工具调用动机的压缩方案可能损失关键上下文,而摘要式方案在压缩率上(如 Hermes 的 95%)具备明显优势。对构建长时程 agent 的开发者而言,这一经验性结论有直接参考价值。

第 2 集 · Teknium 实测 Jev 压缩方案:分数更低成本更高(2026-09-20,2 条)

NousResearch 的 Teknium 公开批评 Tamara 的 Jev 压缩策略,即用 Jev 给 tool call 打分实现即时上下文压缩。他在自家可公开运行的压缩评测上实测后发现,该方案分数更低、成本更高,且学到的是无需任何压缩的捷径。他澄清并非否定 Jev 本身——它会有有效且极有裨益的使用场景——但认为这个压缩策略并不适用,建议不要采用。