Epoch AI 实测:GPT-5.6 长上下文延迟二次方增长,Claude 近线性
dl_weekly · x · 2026-09-17
Epoch AI 发布报告,测了 GPT-5.6(Terra/Sol)与 Claude Sonnet 5/Opus 5 在最长 100 万 token 上下文下的首 token 延迟(TTFT):
- GPT-5.6 呈明显二次方增长:随着 prompt 变长出现显著向上弯曲;Claude Sonnet 5 接近线性,Opus 噪声较大但仍符合线性。
- 定价差异暗示成本结构不同:OpenAI 对超 27.2 万输入 token 的请求收双倍输入价、1.5 倍输出价;Claude 无论输入长度价格固定。两家上下文窗口相近(约 100 万 token)。
- 作者用三种不同延迟噪声假设的估计器拟合,结果一致,排除了噪声导致假曲线的可能。
- 结论:两家在长上下文推理的架构取舍上路线截然不同,暗示 Claude 可能保留了完整注意力(每 token 关注全部上文)的近线性实现。
代码与数据已公开。
所属事件:Epoch 实测长上下文延迟：GPT-5.6 二次方增长，Claude 近线性(2 条相关)→
「模型」频道最新
- 用户半小时连用 4 次 Codex banked resets 重置 5 小时限额 — flowersslop · 2026-09-17
- 神秘模型 Union Alpha 登场:DeepSWE 得分 74%,超越 GPT-5.6 Sol 且更便宜 — ZeroStateReflex · 2026-09-17
- $200 Pro 用户频繁触发图像限速弹窗,点掉仍能生成 — Jello_Hello_Fellos · 2026-09-17
- 自建 GoBench:GPT-6 Astra 下棋达 2568 Elo 领跑 — Roland31415 · 2026-09-17
- GPT-6 Astra 直播中首夺《杀戮尖塔 2》A10 胜利,用恶魔形态卡组 — Jsevillamol · 2026-09-17
- 演讲者还在调侃 ChatGPT 幻觉,作者反问:你配上下文和深度研究了吗? — zebird0 · 2026-09-17