新论文提出 Context Language Models：模型自管上下文，精度升 11.4% 算力省 21.5%
RulinShao · x · 2026-09-30
Rulin Shao 等人（含 Luke Zettlemoyer、Pang Wei Koh、Nathan Lambert 等）发布论文《Context Language Models (CLMs)》：让语言模型原生管理自己的上下文——把上下文当作一个文件，允许模型对其做任意更新，由模型自己学会什么最重要、该保留什么，并自然扩展到多智能体系统（多个 agent 的上下文以文件形式共存）。
核心结果：
- 用现有模型 zero-shot 构建 CLM，即超越 SOTA 上下文管理策略：BrowseComp-Plus 精度 +11.4% 且 FLOPs 减少 21.5%；12 小时 EdgeBench 得分 +5% 且 FLOPs 减少 59%；24 小时多仓库 agent 集群任务在同等算力下提升高 65%。
- 将上下文管理从外部 harness 控制转为模型内在行为，可用自然语言指令（经标准 skill 优化循环演化）对 CLM 进行引导，held-out 精度最高提升 35.9 分。
- 提出在线 RL 方法训练 CLM，Qwen3.5-9B 在 BrowseComp-Plus 上提升 47.6%，FLOPs 减少 12%。
- 配套 Suffix Cache Reuse 服务方案，较标准 SGLang 进一步降低 35% 服务端算力。
论文、代码均已公开。
所属事件:Meta 发布上下文语言模型 CLM：模型用 Bash 自管上下文(12 条相关)→
「编程与Agent」频道最新
- Slop Eisley:全 AI 编写的星战游戏开放测试,credits 里写着 Claude Opus 和 Codex — jasonkneen · 2026-10-25
- CCC 本地面板新增 Antigravity 适配器，统一管理 Claude Code 与 Codex 会话 — amirfish · 2026-10-25
- 给 Claude 一份清单，周末两小时自查家庭网络安全 — zedlander · 2026-10-25
- 康奈尔论文：64.7% agent 遇错会失控，一个404引发校警介入 — 2C_ornot2C · 2026-10-25
- Reddit 用户盲测 5 款本地 Agent：同一个 Qwen 模型成绩差近一倍 — GapNew4766 · 2026-10-25
- WildAWM 开源合成计算机环境，Qwen3.6 训练后 8 项基准平均涨 10.6 分 — HuaxiuYaoML · 2026-10-25