百万上下文不等于更强
FinanceYF5 · x · 2026-07-14
帖子引用了一位 Prime Intellect 工程师的说法：大家都在追求百万 token 上下文，但真正的瓶颈可能不是“装不下”，而是“推理不动”。
文中给出的例子是：GPT-5.5 在 256k 上下文时检索准确率约 80%，把上下文拉到 100 万 后直接掉到 36%。这被描述为一种典型的 context rot：上下文越长，模型越难稳定地找回关键信息。
帖子进一步给出的结论是：
- 单纯扩大上下文，可能救不了 agent
- 更现实的方向是 持续学习、训练自己的轨迹、以及在 真实环境 中学习和反馈
所属事件:工程师指出百万上下文不等于更强检索(2 条相关)→
「模型」频道最新
- 网传 Terminal-Bench 4.0 图：GPT-6.1 Terra 以最低成本登顶 — Angaisb_ · 2026-10-27
- OpenAI 推出 GPT-6.1 Terra:主打低成本高速计算机操作 — OpenAIDevs · 2026-10-27
- GPT-6.1 Terra 全量上线:Plus/Pro/企业/Edu 可用,API 名 gpt-6.1-terra — OpenAI · 2026-10-27
- 模型为何泄露信息难有定论，PyTorch 作者：网络安全中动机不重要 — brhydon · 2026-10-27
- 为什么没有更多 10M 上下文模型?研究者抛出注意力机制疑问 — agarwl_ · 2026-10-27
- Ortet 首批医疗评测:34 个开源模型 50 项任务,通用排名不够用 — thegautamkamath · 2026-10-27