Meta 与 UW 论文:让模型像编辑文件一样自主管理上下文,省 21.5% 算力
datawithsuman · x · 2026-10-05
Meta Superintelligence Labs 与华盛顿大学(联合 MIT、Trillium Labs)发布新论文,提出 Context Language Models(CLM):当前主流 agent 的记忆管理由固定脚本决定(如 75% 满时摘要),摘要可能丢失或改错事实;新方法把实时上下文镜像成一个文件,让模型用普通 Bash 命令自行删除、改写、卸载内容,每次编辑直接同步为下一轮上下文。
主要结果
- BrowseComp-Plus 深度研究:59.4%,超最佳基线 11.4%,算力省 21.5%
- 12 小时 EdgeBench:得分高 5%,算力比 Codex 式摘要少 59%
- 24 小时六仓库 agent 集群:同等算力下提速多 65%
记忆管理可被学习
- 一行指令即可改变模型的上下文管理方式
- 演化出的 skill 笔记把留出测试集从 38.3% 提到 74.2%
- RL 训练让 Qwen3.5-9B 在 BrowseComp-Plus 上从 28.8% 提到 42.5%
代价与修正
- 编辑会破坏 KV 缓存复用:改动点之后全部重算;作者提出 Suffix Cache Reuse,同性能下再省约 35% 服务端算力
- 128K 大预算下与摘要法的差距基本抹平(47.3 vs 47.8),但成本仍更低
- 部分数学结果为单次运行;可编辑上下文也带来新的 prompt injection 攻击面
所属事件:Context Language Models:让模型像编辑文件一样自管上下文(7 条相关)→
「编程与Agent」频道最新
- Murat 发布 TLAPS-Bench:用 TLA+ 形式化证明真实系统规格的正确性 — tianyin_xu · 2026-11-19
- Rivet 实战经验:别让 JEV 推理,拆成微小是非题反而更准 — yawnxyz · 2026-11-19
- 16 次 MVP 老手用原生 PowerShell 给微软 Intelligent Terminal 造了个自定义 Agent — dfinke · 2026-11-19
- 马斯克喊话:把 Grok Bot 当成一个很聪明的员工来用 — elonmusk · 2026-11-19
- Eve 编码工具复用编译器模块图,构建时间从 56.9 秒降到 6.9 秒 — evilrabbit_ · 2026-11-19
- Klaus 分享 AI 测试平台界面:一句话即可生成全站测试 — KlausCodes · 2026-11-19