Context Language Models:让模型像编辑文件一样自管上下文
华盛顿大学、Meta Superintelligence Labs、MIT、Trillium Labs 等机构的研究者(包括 Rulin Shao、Pang Wei Koh、Luke Zettlemoyer 等)发布论文提出 Context Language Models(CLM,上下文语言模型):把模型的实时上下文当作一个文件,让模型自己全权决定保留、删除或移到磁盘,而不依赖工程师手写的摘要/裁剪规则或固定的动作菜单。零样本构建的 CLM 在多项任务上超越 SOTA 上下文管理方法,BrowseComp 准确率提升 11.4% 的同时节省约 21.5% 算力。
已确认
- 论文 arXiv 编号为 2609.37725,作者包括 Rulin Shao、Pang Wei Koh、Luke Zettlemoyer 等,参与机构含 UW、Meta Superintelligence Labs、MIT、Trillium Labs 等
- 关键实验结果:BrowseComp 准确率提升 11.4%,同时节省约 21.5% 算力
- 方法是把上下文当作文件,由模型自主重写,取代外部 harness 的摘要与裁剪规则;零样本构建的 CLM 在多项任务上超越 SOTA 上下文管理方法
为什么重要
- 传统 agent 的上下文管理依赖工程师手写的固定脚本,CLM 将这部分工作交给模型自主学习。danielmac8 认为「模型吸收了 harness」,这可能改变 agent 工程的范式
- 在提升准确率的同时降低算力消耗,说明自主上下文管理不只是概念创新,也有实际收益
- 若思路被验证推广,agent 框架中大量外部管理代码可能被简化或取代
2026-10-03 ~ 2026-10-05 · 7 条相关
一手来源
- Context Language Models:让模型自己改写上下文,BrowseComp 准确率提升 11.4% — RulinShao ·
- Meta 与 UW 新论文:让 Agent 自由编辑上下文,多赚 11.4% 准确率省 21.5% 算力 — alex_verem ·
- Context Language Models 论文原稿:把上下文当文件让模型自管,成绩与细节一览 — alex_verem ·
- Context Language Models 提出:让 LLM 直接编辑自己的上下文 — daniel_mac8 · 2026-10-03
- 新论文提出 Context Language Models:让 LLM 编辑自身上下文 — daniel_mac8 · 2026-10-03
- 【源头】Meta 与 UW 新论文:让 Agent 自由编辑上下文,多赚 11.4% 准确率省 21.5% 算力 — alex_verem · 2026-10-05
- 【源头】Context Language Models 论文原稿:把上下文当文件让模型自管,成绩与细节一览 — alex_verem · 2026-10-05
另有 3 条近重复转述:RulinShao · datawithsuman · datawithsuman