Jev 上下文压缩方案：从提议到实测翻车

第 1 集 · Jev 上下文压缩方案遭多方质疑，摘要式压缩占优(2026-09-18,5 条)

mitsuhiko 提出用 Typesafe AI 的 Jev 为 agent 做「即时 compaction」上下文压缩后，多位框架与模型作者公开质疑，引发一轮关于 agent 上下文管理策略的激烈争论，多方观点倾向于摘要式压缩优于打分丢弃式方案。

已确认

• Theo 逐点反驳 Jev 的「逐行压缩」方案：Jev 对每次工具调用打分、丢弃无关内容以替代摘要式压缩，但 Theo 强调压缩不是过滤器，compaction 的职责并不在于过滤内容。
• pvncher 给出两层反驳：如 Theo 所指，Jev 拿不到工具被调用时的推理痕迹（reasoning trace）作为上下文，无法理解工具调用背后的动机；此外自研压缩策略也难以匹敌模型的原生训练策略。
• Teknium（Nous Research 联合创始人、Hermes 系列作者）多次表态：他曾多次拒绝为 Hermes Agent 合入相关 PR；他解释该方案在到达 500K 上下文时会删掉 250K 的工具调用 token；他判断 Jev 看起来连 50% 的上下文都砍不掉，算不上好的压缩，相比之下 Hermes 能把 95% 的上下文摘要出去。
• 有网友请求 Teknium 为 Jev 更新 Hermes 以辅助上下文压缩，或做一个用 Jev 把 prompt 路由到最便宜可用模型的 mini harness，Teknium 明确回复 Jev 不可能在压缩上帮到那么多。

为什么重要

• 这场争论触及 agent 上下文管理的根本分歧：打分丢弃式（逐行压缩）还是摘要式压缩。多方观点一致指向：不了解工具调用动机的压缩方案可能损失关键上下文，而摘要式方案在压缩率上（如 Hermes 的 95%）具备明显优势。对构建长时程 agent 的开发者而言，这一经验性结论有直接参考价值。

• Theo 炮轰 Jev「逐行压缩」方案：根本不懂上下文管理 — AccBalanced · 2026-09-18
• agent 框架作者激辩：自研 Jev 压缩为何跑不过模型原生训练策略 — pvncher · 2026-09-18
• Teknium 再泼冷水：Jev 不可能带来那么大的上下文压缩收益 — Teknium · 2026-09-19
• Teknium 质疑 Jev 压缩能力：Hermes 能把 95% 上下文摘要掉 — Teknium · 2026-09-20
• Teknium解析“保留式压缩”：为何Hermes Agent多次拒绝该PR — Teknium · 2026-09-20

第 2 集 · Teknium 实测 Jev 压缩方案：分数更低成本更高(2026-09-20,2 条)

NousResearch 的 Teknium 公开批评 Tamara 的 Jev 压缩策略，即用 Jev 给 tool call 打分实现即时上下文压缩。他在自家可公开运行的压缩评测上实测后发现，该方案分数更低、成本更高，且学到的是无需任何压缩的捷径。他澄清并非否定 Jev 本身——它会有有效且极有裨益的使用场景——但认为这个压缩策略并不适用，建议不要采用。

• Teknium 批评 Tamara 的 Jev 压缩策略：用例有价值但该方案不行 — Teknium · 2026-09-20
• Teknium 实测 Jev 压缩方案翻车：分数更低成本更高，判定不要采用 — max_paperclips · 2026-09-20