专题 · FULL STORY
Jev 上下文压缩方案:从提议到实测翻车
mitsuhiko 提出用 Jev 为 agent 做即时上下文压缩后,多位框架与模型作者公开质疑其上下文管理能力。随后 NousResearch 的 Teknium 实测该方案,发现打分更低、成本更高,争论由提议进入实测验证阶段。
2026-09-18 ~ 2026-09-20 · 2 集 · 7 条
第 1 集 · 社区激辩 Jev 逐行压缩方案:多位作者质疑其上下文管理能力(2026-09-18,5 条)
mitsuhiko 提出用 Jev 为 agent 做「即时 compaction」上下文压缩后,多位框架与模型作者公开提出质疑,形成一轮围绕上下文管理策略的激烈讨论。
已确认
- Theo 针对 Jev「逐行压缩」方案逐点反驳,核心观点是压缩不是过滤器:Jev 对每次工具调用打分、丢弃无关内容以替代摘要式压缩,但如 pvncher 所转述,Jev 拿不到工具被调用时的推理痕迹作为上下文,无法理解工具调用背后的动机。
- Teknium(Nous Research 联合创始人、Hermes 系列作者)多次表态:他曾多次拒绝为 Hermes Agent 合入相关 PR;他解释该方案在到达 500K 上下文时会删掉 250K 的工具调用 token;他判断 Jev 看起来连 50% 的上下文都砍不掉,算不上好的压缩,相比之下 Hermes 能把 95% 的上下文摘要出去。
- 有网友请求 Teknium 为 Jev 更新 Hermes 以辅助上下文压缩,或做一个用 Jev 把 prompt 路由到最便宜可用模型的 mini harness,Teknium 明确回复 Jev 不可能在压缩上帮到那么多。
为什么重要
- 这场争论触及 agent 上下文管理的根本分歧:是采用打分丢弃式(逐行压缩)还是摘要式压缩。多方观点一致指向:不了解工具调用动机的压缩方案可能损失关键上下文,而摘要式方案在压缩率上(如 Hermes 的 95%)具备明显优势。对构建长时程 agent 的开发者而言,这一经验性结论有直接参考价值。
- Theo 炮轰 Jev「逐行压缩」方案:根本不懂上下文管理 — AccBalanced · 2026-09-18
- agent 框架作者激辩:自研 Jev 压缩为何跑不过模型原生训练策略 — pvncher · 2026-09-18
- Teknium 再泼冷水:Jev 不可能带来那么大的上下文压缩收益 — Teknium · 2026-09-19
- Teknium 质疑 Jev 压缩能力:Hermes 能把 95% 上下文摘要掉 — Teknium · 2026-09-20
- Teknium解析“保留式压缩”:为何Hermes Agent多次拒绝该PR — Teknium · 2026-09-20
第 2 集 · Teknium 实测 Jev 压缩方案:分数更低成本更高(2026-09-20,2 条)
NousResearch 的 Teknium 公开批评 Tamara 的 Jev 压缩策略,即用 Jev 给 tool call 打分实现即时上下文压缩。他在自家可公开运行的压缩评测上实测后发现,该方案分数更低、成本更高,且学到的是无需任何压缩的捷径。他澄清并非否定 Jev 本身——它会有有效且极有裨益的使用场景——但认为这个压缩策略并不适用,建议不要采用。
- Teknium 批评 Tamara 的 Jev 压缩策略:用例有价值但该方案不行 — Teknium · 2026-09-20
- Teknium 实测 Jev 压缩方案翻车:分数更低成本更高,判定不要采用 — max_paperclips · 2026-09-20