Theo 炮轰 Jev「逐行压缩」方案:根本不懂上下文管理
AccBalanced · x · 2026-09-18
Theo 引用一条把 Typesafe AI 的 Jev 用于「即时 compaction」的宣传推文(Jev 对每次工具调用打分、丢弃无关内容以替代摘要式压缩),并逐点反驳:
- 压缩不是过滤器——compaction 的职责是在上下文过长时整理历史、让 agent 保持专注,而不是为了把上下文压小而频繁执行。
- Jev 根本不知道自己在决定什么——模型本应基于整个线程上下文决定摘要保留什么,而该实现按「逐行」(每次工具调用)处理:这个 32k token 上下文的模型既看不到之前发生了什么,甚至看不到该工具调用的结果。
他警告,这种随机删除会让模型失去关键信息,是对压缩与上下文管理原理的误解。
所属事件:Jev 上下文压缩方案遭多方质疑,摘要式压缩占优(5 条相关)→
「编程与Agent」频道最新
- NIST 发布智能体身份管理设计原则:AI 须有独立可验证身份 — AccBalanced · 2026-11-04
- MCP 最被低估的用法:在聊天里直接运营你的社交媒体账号 — heyshrutimishra · 2026-11-04
- LadybugDB 开源:嵌入式图数据库,内置 Cypher 与向量索引,已获 1.9k star — JeremyCMorgan · 2026-11-04
- 博主踩坑 NewMax Provider 多层授权:一个 Provider 只挂一套 Key 不够用 — yangyi · 2026-11-04
- DiffusionGemma 玩出新花样:文本扩散模型加速 computer use 并保隐私 — qberthet · 2026-11-04
- 马斯克证实 Grok Bot 成本难以为继,Hermes 一键迁移抢用户 — Teknium · 2026-11-04