NVIDIA 详解 GPT-6 Astra Ultrafast:Blackwell 上提速 8 倍
BenBajarin · x · 2026-10-02
NVIDIA 发布博客介绍 OpenAI 的 GPT-6 Astra Ultrafast:该模式运行在 Blackwell GPU 上,现已通过 OpenAI API 及面向符合条件的 ChatGPT Work 与 Codex 用户开放。
- 性能:借助 OpenAI 持续的推理优化与 Blackwell 架构能力,Ultrafast 的 token 生成速度比 Astra Standard 模式最高快 8 倍。
- 受益场景:编码 agent 的「编辑-测试-调试」循环更快、工具调用间等待更短、交互应用响应更灵敏——即 agent 写代码、调工具、检查结果再决策这类高频时间敏感环节。
- 幕后:OpenAI 推理负责人 Philippe Tillet 表示,得益于 NVIDIA 的工具链与文档投入,模型非常擅长为 Blackwell 和 Rubin GPU 编写高性能 kernel;Astra 能据此在延迟、吞吐和成本的全前沿上优化硬件利用率。
- 部署后性能仍在持续改进,OpenAI 正用自己的模型反哺推理优化。
所属事件:NVIDIA 揭秘 GPT-6 Astra Ultrafast:Blackwell 带来 8 倍推理提速(3 条相关)→
「Infra」频道最新
- Gridline 发布:微调、蒸馏、批量推理一站搞定,兼容 OpenAI 客户端 — Scobleizer · 2026-11-19
- 昇腾产能测算:明年或产 1920-2160 万颗,瓶颈在存储与封装 — teortaxesTex · 2026-11-19
- AMD Loom 实测:Qwen3.5-4B 在 Radeon 890M 上 prefill 提速 2.6 倍 — jfowers_amd · 2026-11-19
- 开发者向 GKE 沙箱项目提 PR:定期 checkpoint 防 agent 进度丢失 — yoimnotkesku · 2026-11-19
- AWS Lambda 终于支持 GPU:托管实例可跑模型推理与媒体处理 — DavidWells · 2026-11-19
- 曝黄仁勋人为制造显卡稀缺抬价获利,库存积压仍维持高价 — GaryMarcus · 2026-11-19