Epoch AI 实测:GPT-5.6 长上下文延迟二次方增长,Claude 近线性
dl_weekly · x · 2026-09-17
Epoch AI 发布报告,测了 GPT-5.6(Terra/Sol)与 Claude Sonnet 5/Opus 5 在最长 100 万 token 上下文下的首 token 延迟(TTFT):
- GPT-5.6 呈明显二次方增长:随着 prompt 变长出现显著向上弯曲;Claude Sonnet 5 接近线性,Opus 噪声较大但仍符合线性。
- 定价差异暗示成本结构不同:OpenAI 对超 27.2 万输入 token 的请求收双倍输入价、1.5 倍输出价;Claude 无论输入长度价格固定。两家上下文窗口相近(约 100 万 token)。
- 作者用三种不同延迟噪声假设的估计器拟合,结果一致,排除了噪声导致假曲线的可能。
- 结论:两家在长上下文推理的架构取舍上路线截然不同,暗示 Claude 可能保留了完整注意力(每 token 关注全部上文)的近线性实现。
代码与数据已公开。
所属事件:Epoch 实测长上下文延迟：GPT-5.6 二次方增长，Claude 近线性(2 条相关)→
「模型」频道最新
- Similarweb：Claude 升级页流量 9 月回升至 1760 万，逼近 5 月峰值 — firstadopter · 2026-11-02
- 开源 GLiNER-PII 单卡 550ms 抓出病历 13 项身份标识,仍漏医院名 — MaziyarPanahi · 2026-11-02
- 用户吐槽 OpenAI Dots 越用越臃肿,转投新工具 Muse 称体验干净透明 — Koala_Confused · 2026-11-02
- Fable 5.5 被曝一行代码一次通过生成动画，Anthropic 押注编程意外切入动画赛道 — Hesamation · 2026-11-02
- 一个 agent 目标连续跑了 4 天，烧掉 3 万赠额 token — CtrlAltDwayne · 2026-11-02
- 每日 AI 简报：Gemini 4 Carbon 疑现身 Arena，DeepSeek 开源编码 agent — testingcatalog · 2026-11-02