Theo 炮轰 Jev「逐行压缩」方案:根本不懂上下文管理
AccBalanced · x · 2026-09-18
Theo 引用一条把 Typesafe AI 的 Jev 用于「即时 compaction」的宣传推文(Jev 对每次工具调用打分、丢弃无关内容以替代摘要式压缩),并逐点反驳:
- 压缩不是过滤器——compaction 的职责是在上下文过长时整理历史、让 agent 保持专注,而不是为了把上下文压小而频繁执行。
- Jev 根本不知道自己在决定什么——模型本应基于整个线程上下文决定摘要保留什么,而该实现按「逐行」(每次工具调用)处理:这个 32k token 上下文的模型既看不到之前发生了什么,甚至看不到该工具调用的结果。
他警告,这种随机删除会让模型失去关键信息,是对压缩与上下文管理原理的误解。
「编程与Agent」频道最新
- LangChain 释出 Jev 构建 Agent Harness 教程,专攻受限输出 — multiply_matrix · 2026-09-18
- NewEyes AI 登陆 Meta 眼镜:本地轻处理+云端深推理分工 — rohanpaul_ai · 2026-09-18
- Cursor Projects 多模型编排获好评:看板追踪+三模型方案对决 — kieranklaassen · 2026-09-18
- 实测 OpenAI Astra 写代码:架构混乱、重复代码多,抗拒推翻错误决定 — Substantial_Swan_144 · 2026-09-18
- AI 咨询公司 Hang Ten 获 5300 万美元种子轮,总融资达 8500 万 — vsikka · 2026-09-18
- AI 编程会变多人游戏吗:Slack 共享智能体 vs 各自为战的单人增强 — Telos_in_the_Void · 2026-09-18