AI Infra Summit:Vera Rubin 与 DSX 主打每兆瓦 token 产出
NVIDIA Blog · rss · 2026-09-16
NVIDIA 副总裁 Ian Buck 在 AI Infra Summit(参会者超 8000 人,去年 3500)发表基础设施主题演讲,发布多项合作与数据:
- 合作:Amazon Annapurna Labs 共同开发 NVHBM 定制高带宽内存;d-Matrix 将 Raptor XPU 接入 NVLink Fusion;Pinterest 用 Blackwell + Dynamo 推理软件做视觉发现的对话式 AI。
- DSX MaxLPS:Lambda 首次验证,19 节点跑出 16 节点功率预算的吞吐,token 吞吐 +24%、每瓦性能 +23%;Vera Rubin NVL72 同预算最多多 40% GPU 容量。
- Vera Rubin NVL72 + Groq 3 LPX:组合平台对 2 万亿参数级长上下文模型,每兆瓦 token 吞吐最高达 GB200 NVL72 的 35 倍;100K 上下文 Qwen 工作负载实测每用户 2529 output tokens/s。
- SemiAnalysis AgentX 基准:以真实 agent 编码会话测推理,Vera Rubin NVL72 在 DeepSeek 模型上每兆瓦吞吐较 GB300 NVL72 高达 30 倍,每百万 token 成本最高降 45 倍。
- 电网灵活性:Emerald AI 演示 AI 工厂作为可调度电网资源,响应数百次 Silicon Valley Power 需求信号。
「Infra」频道最新
- B200/H100 租金周内创新高，年内涨 47% 和 31% — TheZachMueller · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Mac 端 PyTorch 10 月下载量达 329 万,环比涨 20.5% — LysandreJik · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 内存涨价三倍，特斯拉把 Optimus 大脑内存砍掉三分之一 — aakashgupta · 2026-11-02
- 1.7B 本地模型 LFM3 在 MacBook 上首次答对曼城赛程查询 — NielsRogge · 2026-11-02