大模型长上下文能力衰退严重，Token 效率差异揭示黑盒难题
zakelfassi · x · 2026-08-30
作者指出，单纯追求 1M 等大上下文窗口已不再令人印象深刻，因为观察发现模型在上下文扩大时性能显著下降（如 GPT-5.6 Sol 在 NIAH 任务中从 128K 的 92.4% 跌至 512K 的 61.9%）。不同模型家族在不同任务下的 token 效率表现差异巨大，这表明我们对模型内部机制的理解仍处于皮毛阶段，未来可能衍生出 2-3 个新学科来研究这些现象。
「模型」频道最新
- Meta 开源 816B 参数 MoE 模型 Muse Spark Open,激活仅 42B — victormustar · 2026-10-16
- Baseten 首日上线 Muse Spark Open API:输入 $1.25/百万 token — baseten · 2026-10-16
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- d1-ultra 登顶 Artificial Analysis 决策指数，成本仅约 30 美元/百万任务 — JosephJacks_ · 2026-10-16
- 用户喊话 Google：给新模型放宽用量、合并成一个 App — dreamwieber · 2026-10-16
- 用户吐槽:Gemini 网页版可用但编码工具中无权限,体验割裂 — dreamwieber · 2026-10-16