OpenAI 发布系列文章：ChatGPT 如何做到每秒 7000 万次请求
AxSaucedo · x · 2026-09-16
OpenAI 发布了两篇基础设施系列文章，详解其推理服务如何支撑 ChatGPT 的超大规模：每秒 7000 万次请求、超过 500 PB 数据，横跨近 40 个 region，每周服务超过 10 亿人。文章披露了其在全球分布式架构与服务栈层面的工程实践，对理解前沿推理基础设施的规模与设计有参考价值。
「Infra」频道最新
- Transformers 模型可直接在 vLLM 运行，无需移植转换 — pcuenq · 2026-09-16
- 台积电建 20 座厂仍追不上 AI 需求,劳动力短缺成瓶颈 — emmanuelvivier · 2026-09-16
- SemiAnalysis称Nvidia Vera Rubin NVL72智能体推理吞吐每兆瓦最高30倍于Blackwell — emmanuelvivier · 2026-09-16
- Cacheon矿工把MiniMax M3吞吐优化至2337.9 tok/s，据称可多赚61%利润 — JosephJacks_ · 2026-09-16
- 一份文档管道接三家 AI 厂商,Reddit 用户求解一站式自托管方案 — Sad-Razzmatazz-7657 · 2026-09-16
- 纳德拉举例：一座 400-500MW 数据中心让小镇税收涨 12 倍 — rohanpaul_ai · 2026-09-16