Epoch AI:GPT 长上下文延迟呈二次增长,定价跳档源于架构差异
Jsevillamol · x · 2026-09-11
Epoch AI 通过测量首 token 延迟(TTFT)发现,OpenAI GPT-5.6 与 Anthropic Claude 5 在长上下文下的表现截然不同:GPT 的 TTFT 随上下文长度呈明显的二次增长,而 Claude 更接近线性——这正对应两家不同的定价结构(GPT 超过 272k 输入 token 后价格跳升,Claude 则保持固定)。
OpenAI 新发布的 GPT-6 Astra 同样在 272k token 以上提高 API 定价,Epoch 补充的延迟测量显示其曲线与 GPT-5.6 类似,暗示这背后是架构层面的差异,而非单纯商业策略。
所属事件:Epoch AI:GPT 长上下文延迟二次增长,定价跳档暴露架构差异(2 条相关)→
「Infra」频道最新
- 微软内部计划曝光:2032 年数据中心容量从 12GW 扩至 38GW — BenBajarin · 2026-09-11
- Oracle Q1 营收 193 亿美元超华尔街预期,AI 云需求持续走高 — Polymarket · 2026-09-11
- Agent 越强,GPU 之外的「普通计算」占比越大 — AccBalanced · 2026-09-11
- 2.78万亿参数 Kimi K3 单 CPU 跑通:仅需 8.24GB 内存、零 GPU — udmrzn · 2026-09-11
- 32GB M4 MacBook Air 上跑出 8-22 tok/s,Cherenkov 引擎刷新 Qwen3.8 极限 — alfredr · 2026-09-11
- Claude Desktop 数据直传大厂?用 Ollama 本地模型保住隐私 — Technovangelist · 2026-09-11