百万上下文不等于更强
FinanceYF5 · x · 2026-07-14
帖子引用了一位 Prime Intellect 工程师的说法:大家都在追求百万 token 上下文,但真正的瓶颈可能不是“装不下”,而是“推理不动”。 文中给出的例子是:**GPT-5.5** 在 **256k** 上下文时检索准确率约 **80%**,把上下文拉到 **100 万** 后直接掉到 **36%**。这被描述为一种典型的 **context rot**:上下文越长,模型越难稳定地找回关键信息。 帖子进一步给出的结论是: - 单纯扩大上下文,可能救不了 agent - 更现实的方向是 **持续学习**、**训练自己的轨迹**、以及在 **真实环境** 中学习和反馈