Jev 上下文压缩方案遭多方质疑，摘要式压缩占优

mitsuhiko 提出用 Typesafe AI 的 Jev 为 agent 做「即时 compaction」上下文压缩后，多位框架与模型作者公开质疑，引发一轮关于 agent 上下文管理策略的激烈争论，多方观点倾向于摘要式压缩优于打分丢弃式方案。

已确认

Theo 逐点反驳 Jev 的「逐行压缩」方案：Jev 对每次工具调用打分、丢弃无关内容以替代摘要式压缩，但 Theo 强调压缩不是过滤器，compaction 的职责并不在于过滤内容。
pvncher 给出两层反驳：如 Theo 所指，Jev 拿不到工具被调用时的推理痕迹（reasoning trace）作为上下文，无法理解工具调用背后的动机；此外自研压缩策略也难以匹敌模型的原生训练策略。
Teknium（Nous Research 联合创始人、Hermes 系列作者）多次表态：他曾多次拒绝为 Hermes Agent 合入相关 PR；他解释该方案在到达 500K 上下文时会删掉 250K 的工具调用 token；他判断 Jev 看起来连 50% 的上下文都砍不掉，算不上好的压缩，相比之下 Hermes 能把 95% 的上下文摘要出去。
有网友请求 Teknium 为 Jev 更新 Hermes 以辅助上下文压缩，或做一个用 Jev 把 prompt 路由到最便宜可用模型的 mini harness，Teknium 明确回复 Jev 不可能在压缩上帮到那么多。

这场争论触及 agent 上下文管理的根本分歧：打分丢弃式（逐行压缩）还是摘要式压缩。多方观点一致指向：不了解工具调用动机的压缩方案可能损失关键上下文，而摘要式方案在压缩率上（如 Hermes 的 95%）具备明显优势。对构建长时程 agent 的开发者而言，这一经验性结论有直接参考价值。

2026-09-18 ~ 2026-09-20 · 5 条相关