NVIDIA阐述AI工厂每瓦性能指标
NVIDIA Blog · rss · 2026-07-14
NVIDIA 发表文章强调,每瓦性能是衡量 AI 基础设施效率的终极指标,直接决定了 AI 工厂在固定电力预算下的营收与利润。
- 架构优势:随着前沿模型转向 MoE 架构,NVIDIA Blackwell NVL72 平台通过软硬件协同设计,在 DeepSeek、GLM 和 Kimi 等模型上实现了远超 Hopper 的每瓦性能。
- 软件优化:结合 NVFP4 量化、 disaggregated serving(分离式推理)及 KV cache offloading 等技术,大幅提升单 GPU 性能。
- 能效管理:通过 DSX MaxLPS 平台实时调配 GPU 功率并支持液冷,使运营商在同等电力预算下可增加多达 40% 的 GPU 运行数量。
- 生产验证:Anthropic、OpenAI、CoreWeave 等厂商已采用该平台进行大规模推理服务。
「Infra」频道最新
- Anthropic S-1:4300 亿美元算力合同不可取消,超过中国全年军费 — Hesamation · 2026-10-27
- Tenstorrent 融资 15 亿美元,估值 62 亿较去年翻倍以上 — Beth_Kindig · 2026-10-27
- Anthropic 拟向 SpaceX 采购 1205 亿美元算力,满载后月付约 31 亿 — XFreeze · 2026-10-27
- 恶搞:用 JEV 决策模型替换 Raft 共识,写入吞吐暴跌 99.98% — irombie · 2026-10-27
- Cadence 进入领域专用 AI 模型赛道,芯片设计自动化再加码 — karlfreund · 2026-10-27
- Qdrant 自研 Universal I/O:向量库 mmap 无缝迁移到对象存储 — qdrant_engine · 2026-10-27