NVIDIA 团队称多数任务不需要长上下文：Agent 自压缩可稳守 5 万 token
HankYeomans · x · 2026-11-06
一篇讨论 NVIDIA 团队研究的帖子：该团队认为大多数所谓的"长上下文"任务其实并不真正需要长上下文——让 agent 持续压缩自己的笔记，上下文可稳守在 5 万 token 以内，在编码、搜索和长文档任务上准确率几乎没有下降。
发帖人补充了成本视角：以 25.6 万 token 窗口而非 1.6 万窗口服务开源模型，每个输出 token 的成本要高 3.6 至 7 倍；在 DGX Spark 上，越靠后的 token 生成耗时约为早期 token 的两倍。但长上下文 token 通常按统一价格售卖，所以大多数用户感知不到差异。
最反直觉的结果是：一个每执行一个动作就清空上下文、只携带简短书面摘要向前的 agent，在 SWE-bench Verified 上用 Opus 4.5 跑出了与完整上下文相当的成绩。转发者则认为，未来更可能是并行运行的压缩机制，配合更好的短期记忆系统来卸载重要事实，因为现在"用到 100 万 token 再等几分钟压缩"的体验太糟糕了。
所属事件:NVIDIA 论文：Agent 频繁压缩上下文即可省成本不损精度(6 条相关)→
「编程与Agent」频道最新
- VoidZero 十月更新:Rust 版 TypeScript 提速 8 倍,SDK 开源 — cnakazawa · 2026-11-06
- Claude 一发提示生成 10 分钟恐龙纪录片，全程无人工剪辑 — piotrbinkowski · 2026-11-06
- 用 PlaiPin 设备+Grok Gadget SDK 动口就能让 agent 写 App — tetsuoai · 2026-11-06
- Primateria 发布 Wavefunction Bench：八大模型仅三种分子体系过关 — CatAstro_Piyush · 2026-11-06
- 开源 Smarter Compact：长会话成本降 72%，被裁剪上下文可搜索召回 — goost95 · 2026-11-06
- 实测:对抗性代码审查让成本增 140%,质量仅升 7.5% — vikvang1 · 2026-11-06