首篇上下文压缩理论论文:证明其等价于单向通信复杂度
lateinteraction · x · 2026-09-06
一篇受 @lateinteraction 一月评论启发的论文《Context Compaction Theory》正式化研究了 AI 智能体普遍使用却缺乏理论分析的上下文压缩问题：
- 提出两个博弈框架：Context Selection Game（模型保留状态子集的策略）与 Context Generation Game（模型用有界长度消息总结状态的策略）；
- 证明 Context Generation Game 与单向通信复杂度等价：在目标误差下回答一组查询所需的最小上下文压缩预算，等于对应通信问题的单向通信复杂度，因此通信复杂度的已知下界可直接移植到上下文压缩；
- Context Selection Game 对应受限的单向通信协议类，选择与生成之间的差距即是两类通信协议之间的差距；
- 证明存在一组查询，生成策略严格优于选择策略。
作者感谢 jadidbourbaki 一月的评论启发了这项春夏之际完成的形式化工作。
「编程与Agent」频道最新
- 模型爱乱改别人代码,CROCODIL 后训练框架可抑制过度编辑 — omarsar0 · 2026-09-06
- exe.dev 持久云沙盒走红：SSH 直连远程编码，AI agent 自带网页端 — davidcrawshaw · 2026-09-06
- uv-scripts 数据处理脚本库：OCR/转录/嵌入一键跑在 HF Jobs 上 — vanstriendaniel · 2026-09-06
- GPT-6 Astra 花不到 1 美分复刻 Subway Surfer — CodeByPoonam · 2026-09-06
- GPT-6 Astra 发布两天，编码演示刷屏 13 例 — CodeByPoonam · 2026-09-06
- 代码即 Agent 框架:Claude Code 负责人称不再写 prompt 而是设计循环 — solyarisoftware · 2026-09-06