OpenAI Ultrafast API 将扩大开放,速度最高 750 tokens/秒
testingcatalog · x · 2026-09-26
TestingCatalog 发现 OpenAI Platform 与 API 文档中出现多处新引用,显示其准备在 9 月 29 日 DevDay 前后扩大 Ultrafast API 模式的开放范围。
关键信息:
- Responses API Playground 中隐藏了一个速度选择器,开发者可在 Standard、Fast、Ultrafast 三档间选择。
- OpenAI 此前已随 GPT-5.6 Sol 官方预览过 Ultrafast:输出速度可达 750 tokens/秒,推理速度比 Standard 快至 14 倍。
- 目前仅向部分客户开放,OpenAI 确认该模式由 Cerebras 驱动。
- OpenAI 今年早些时候宣布了 750 MW 的 Cerebras 合作,容量将在 2028 年前分阶段部署。
- 对开发者的主要权衡是经济性:可按工作负载价值选择延迟档位,仅在响应时间直接影响收入的场景使用更高成本的推理。
所属事件:OpenAI 拟扩大 Ultrafast API 服务档，速度最高每秒 750 tokens(4 条相关)→
「Infra」频道最新
- Starlink 美国城市用户增速 73% 反超农村，上传速度提升 42% — XFreeze · 2026-11-11
- Cloudflare 采用未经实战的共识算法 QuePaxa,替代 Raft/Paxos 建 Meerkat — sull · 2026-11-11
- 用 AI 扫遍全美废弃商场，改造成数据中心的脑洞 — LinusEkenstam · 2026-11-11
- Anthropic S-1 曝 260 亿美元私募：七大供应商按 IPO 价入股 — demian_ai · 2026-11-11
- AMD 10Q 披露收购 Taalas 花费 29 亿美元,将 LLM 权重烧进硬件 — deedydas · 2026-11-11
- SpaceXSI 1.2GW 燃气电厂获密西西比州环保许可,为 Colossus II 供能 — XFreeze · 2026-11-11