NVIDIA 论文：频繁压缩上下文，Claude Opus 4.5 SWE-bench 反而从 70.0 升到 74.8
omarsar0 · x · 2026-11-04
NVIDIA 论文《You don't need long context》 challenged the assumption that agents need full long-context history.
- 在 frontier 开源权重模型上，生成越靠后的 token 成本越高，上下文从 16K 扩到 256K 时每百万输出 token 成本最高涨 7 倍（Qwen 3 Coder Next），GLM 5.2 为 3.6 倍、Kimi K2.6 为 5.6 倍——这一成本差异常被固定 token 定价掩盖。
- 实验显示：频繁做 context compaction（每步只保留状态摘要而非完整 transcript），模型在长程与长输入任务上几乎不掉点。Claude Opus 4.5 在每个上下文只执行一个动作时，SWE-bench Verified 得分 70.2，与保留完整历史的 70.0 基本持平，而上下文峰值中位数从 32K 降到 8K。
- 更反直觉的是：在对话结束做一次简单 compaction，效果反而优于完整历史，Opus 4.5 从 70.0 升到 74.8。
- 该规律在 Terminal-Bench、FRAMES、BFCLv3 和多语言任务上均成立，作者据此提出「语义状态空间模型（SSSM）」概念，质疑长上下文模型的必要性。
所属事件:NVIDIA 论文称智能体无需长上下文(2 条相关)→
「编程与Agent」频道最新
- Hugging Face 发布 atif-scan 0.8.16，扫描 agent 轨迹中的 reward hacking — yb2698 · 2026-11-04
- 开发者用 Claude Code 一人造出全平台 iCloud 桌面套件 Skykeep — Your_Karma_Landlord · 2026-11-04
- Mem0 本地 FAISS 适配器缺陷：拒绝更新后旧记忆已丢失 — izgorodin · 2026-11-04
- PII 泄露根因:把脱敏当文本替换而非数据分类问题 — arpit_bhayani · 2026-11-04
- Reddit 长文：只有记忆没有推理的 Agent 只是文件柜 — jackalop211 · 2026-11-04
- 用户坦承用 Codex 造出自己完全读不懂、只能靠 AI 维护的代码 — throwawaysusi · 2026-11-04