OpenAI Ultrafast API 将扩大开放,速度最高 750 tokens/秒
testingcatalog · x · 2026-09-26
TestingCatalog 发现 OpenAI Platform 与 API 文档中出现多处新引用,显示其准备在 9 月 29 日 DevDay 前后扩大 Ultrafast API 模式的开放范围。
关键信息:
- Responses API Playground 中隐藏了一个速度选择器,开发者可在 Standard、Fast、Ultrafast 三档间选择。
- OpenAI 此前已随 GPT-5.6 Sol 官方预览过 Ultrafast:输出速度可达 750 tokens/秒,推理速度比 Standard 快至 14 倍。
- 目前仅向部分客户开放,OpenAI 确认该模式由 Cerebras 驱动。
- OpenAI 今年早些时候宣布了 750 MW 的 Cerebras 合作,容量将在 2028 年前分阶段部署。
- 对开发者的主要权衡是经济性:可按工作负载价值选择延迟档位,仅在响应时间直接影响收入的场景使用更高成本的推理。
所属事件:OpenAI Ultrafast API 曝将扩大开放，速度最高 750 tokens/秒(3 条相关)→
「Infra」频道最新
- 博主弃用服务器机架：烧主板教训与千美元成本账 — TheZachMueller · 2026-09-26
- 斯坦福与英伟达发布 CLM 决策模型,速度比逐 token 快 13 倍 — Prompt Engineering · 2026-09-26
- 新泽西高尔夫球场照片揪出数据中心 62 台违规燃气发电机 — mkheck · 2026-09-26
- 640 次请求实测:LLM 路由省 33.2%,但固定中端模型更省 72.9% — smakosh · 2026-09-26
- Akamai 拿下与 Anthropic 的 116 亿美元云协议,CEO 称将改善利润率 — pdamodaran · 2026-09-26
- MLXUI 开源：按内存筛选一键装模型，Mac 本地跑全模态 AI — WebAssemblyMan · 2026-09-26