Gemini Batch API 延迟降 80%，Google 还加入部分批处理支持
OfficialLoganK · x · 2026-07-21
Google 表示，Gemini Batch API 刚完成一轮基础设施升级： - p95 延迟下降 **80%** - p99 延迟下降 **68%** - 批处理成功率提升到 **99.998% 以上** - 批任务过期减少 **98%** - 新增 **partial batches** 支持 这是一条很典型的 AI 基础设施进展：重点不在模型能力，而在批处理链路的延迟、稳定性和可用性全面改善。
所属事件:Google升级Gemini Batch API，延迟大降且成功率超99.99%(2 条相关)→
「Infra」频道最新
- 英国 AI 数据中心因热量、噪音和占地遭到反弹 — nordicinst · 2026-07-21
- Fluidstack 融资 8.3 亿美元，估值 75 亿美元并承接 Anthropic 500 亿美元算力项目 — rohanpaul_ai · 2026-07-21
- Krea2 低显存 Gradio WebUI 已可在 6GB 机器测试 — Fluid_Kaleidoscope17 · 2026-07-21
- Z.AI 启动 1 吉瓦 AI 数据中心，全部采用国产芯片 — Polymarket · 2026-07-21
- 本地模型配上合适的 harness 后，实用性大增 — Soft-Barracuda8655 · 2026-07-21
- 语音 agent 团队先用平台，出怪问题后再接管 STT 事件 — FollowingSuitable941 · 2026-07-21