NVIDIA 详解 GPT-6 Astra Ultrafast:Blackwell 上提速 8 倍
BenBajarin · x · 2026-10-02
NVIDIA 发布博客介绍 OpenAI 的 GPT-6 Astra Ultrafast:该模式运行在 Blackwell GPU 上,现已通过 OpenAI API 及面向符合条件的 ChatGPT Work 与 Codex 用户开放。
- 性能:借助 OpenAI 持续的推理优化与 Blackwell 架构能力,Ultrafast 的 token 生成速度比 Astra Standard 模式最高快 8 倍。
- 受益场景:编码 agent 的「编辑-测试-调试」循环更快、工具调用间等待更短、交互应用响应更灵敏——即 agent 写代码、调工具、检查结果再决策这类高频时间敏感环节。
- 幕后:OpenAI 推理负责人 Philippe Tillet 表示,得益于 NVIDIA 的工具链与文档投入,模型非常擅长为 Blackwell 和 Rubin GPU 编写高性能 kernel;Astra 能据此在延迟、吞吐和成本的全前沿上优化硬件利用率。
- 部署后性能仍在持续改进,OpenAI 正用自己的模型反哺推理优化。
所属事件:NVIDIA 揭秘 GPT-6 Astra Ultrafast:Blackwell 带来 8 倍推理提速(3 条相关)→
「Infra」频道最新
- 传 Broadcom 拟向 Anthropic 提供至多 420 亿美元贷款买芯片 — rohanpaul_ai · 2026-10-02
- Meta 论文:推荐系统训练中仅 50-60% 时间真正在训练 — _reachsumit · 2026-10-02
- 开发者开源 GPT-2 XL 本地复现项目,CPU 即可跑 15 亿参数老模型 — MikePFrank · 2026-10-02
- CoreWeave 推出 serverless GPU:按小时付费、无需合约,私测开放 — altryne · 2026-10-02
- 5090+5070Ti 双卡实测:显存翻倍不如想象中值 — Lordofwhut · 2026-10-02
- 6 张 AMD 矿卡集群跑本地 LLM:100k 上下文 28 tok/s — Ok-Breadfruit-3523 · 2026-10-02