OpenAI 存储架构复盘:三步把 12 亿用户读取延迟打到场 10ms

OpenAIDevs · x · 2026-10-24

OpenAI 开发者账号完整披露其全球存储架构优化:服务 40 个地理区域超 12 亿用户,与 Azure Cosmos DB 合作实现全球中位读取延迟 12 倍改善。具体三板斧:广域复制只用于认证元数据等小型关键数据;区域内缓存承接高频访问的设置与应用状态;Rust 重写服务层降低代理开销。三项改动合计把全球中位读取延迟从约 120ms 降至约 10ms(附延迟随时间下降曲线),产品团队的基础设施负担也更轻。

所属事件:OpenAI 复盘存储优化:三板斧将读取延迟降至 10ms(3 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →