英伟达研究称超长上下文是死路,摘要+关键词检索更省钱
The Decoder · rss · 2026-11-22
英伟达研究人员认为,语言模型往往并不需要完整的上下文窗口——长上下文既慢又贵、还容易出错,并提出替代方案。
- 测试中,周期性摘要加定向关键词检索,通常能以极低成本达到与全上下文相当的效果。
- 团队进一步提出一类新模型:不依赖长上下文,而是用「短笔记」工作。
结论指向:与其一味堆上下文长度,不如把记忆与检索做在模型外部。
「模型」频道最新
- 博主热议微软新模型:部分型号成本降 80 倍、速度快 50 倍 — ChrisUniverse · 2026-11-22
- GPT-6.2 写作翻译成功率降至 85.9%,比上代跌 5.3 个百分点 — arena · 2026-11-22
- Arena 榜单:GPT-6.2 编码涨 50 分、聊天跌 54 分,总体仅升一位 — arena · 2026-11-22
- iOS 27.3 beta 曝 Apple 测试 Siri 高级 AI 请求每日限额 — alvelda · 2026-11-22
- 让 Muse 玩上 GTA6:游戏场景竟无护栏拦截 — Dave_Maynor · 2026-11-22
- Workspace 付费用户被挡在 Gemini 门外:自定义域名账号无法使用 — film_girl · 2026-11-22