百万上下文不等于更强检索
FinanceYF5 · x · 2026-07-14
帖子转述了一位 Prime Intellect 工程师的观点:百万 token 上下文并不等于更强检索。
文中给出的例子是:
- GPT-5.5 在 256k 上检索准确率约 80%
- 拉到 100 万 token 后降到 36%
作者的解释不是“装不下”,而是“装进去了但推理不动”,即所谓的 context rot。他认为,面对 Agent 场景,单纯扩大上下文不如:
- 持续学习
- 训练自己的轨迹
- 在真实环境中学习
这条更像是在质疑“更大上下文就能解决 Agent 问题”的常见叙事。
所属事件:工程师指出百万上下文不等于更强检索(2 条相关)→
「模型」频道最新
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11
- antirez 谈 Anthropic 禁止未成年人使用 Claude — antirez · 2026-09-11
- Engram 随机读取不适合 SSD,CPU 内存低延迟共享或成正解 — bookwormengr · 2026-09-11
- RTX 3060 全本地语音助手复刻 GPT Live 官方演示,6 分钟跑完全程 — liampetti · 2026-09-11
- 曝 Meta Muse Agent 内置邀请码逻辑,或携额外免费额度上线 — testingcatalog · 2026-09-11