jev-gc：给长跑 Agent 做可逆上下文垃圾回收的开源方案
Maleficent_College57 · reddit · 2026-09-23
作者开源了 jev-gc，一个 Python 库，在 agent 运行中动态决定哪些内容留在下一条 prompt、哪些可以被清理，解决长循环 agent 把 20 轮历史（失败的 API 调用、无关目录列表、低相关检索块）全部带入后续轮次的上下文膨胀问题。
工作机制
- 挂钩 agent 已有的 OpenTelemetry spans（工具/检索/LLM 调用），将每个 span 分为 HOT（原文保留）、WARM（压缩成一行指针）、COLD（移出并归档）三层。
- 规则优先：固定 pin 的保留、报错的压缩但永不删除、近期的保留、空输出直接删，只有真正模糊的情况才交给相关性模型，且调用批量执行。
两个关键设计决策
- 报错 span 永不丢弃——失败的工具调用日后可能极重要，可压缩但必须在上下文有代表。
- 清理必须可逆——被逐出的内容存为不可变快照，prompt 里只保留关键词索引，agent 可以「记得关于 X 的东西→搜索归档上下文」取回全文。
Shadow replay 评估模式：同一任务分别用完整上下文和启用 GC 跑一遍，diff 答案找出「被逐出但实际相关」的 span。目前基于关键词重合，是相关性信号而非证明。
早期数据（注意：用的是假相关性打分器，只测 GC 管线本身开销，不代表判断质量）：每个 span 约 96µs，span 数增长 100 倍时开销仅约 1.14 倍；归档内容约占内存增长的 2%。作者征求关于可信任性、评估方式与确定性规则 vs 模型决策的反馈。
所属事件:开源 jev-gc:为长跑 Agent 做可逆上下文垃圾回收(2 条相关)→
「编程与Agent」频道最新
- Agent 时代个人与工作该分仓：身份、权限、记忆四条边界 — sujingshen · 2026-09-23
- 斯坦福教授用 JEV 构建系统,每 15 分钟分析 400 亿数据点 — Roger_M_Taylor · 2026-09-23
- CopilotKit 开源个人助理 Open Muse:兼容任意 agent 框架,移动端网页端可用 — Roger_M_Taylor · 2026-09-23
- 一段话提示词搞定 iOS 应用开发到上架，Burkov 感叹奇点已至 — burkov · 2026-09-23
- slime 合入 Score Centering:从第一性原理解决 RL 训练与采样策略不一致的不稳定 — hsu_byron · 2026-09-23
- Agent 时代需要「为验证而生」的软件,让失败变得廉价 — arpit_bhayani · 2026-09-23