NVIDIA阐述AI工厂每瓦性能指标

NVIDIA Blog · rss · 2026-07-14

NVIDIA 发表文章强调,**每瓦性能**是衡量 AI 基础设施效率的终极指标,直接决定了 AI 工厂在固定电力预算下的营收与利润。 - **架构优势**:随着前沿模型转向 MoE 架构,NVIDIA Blackwell NVL72 平台通过软硬件协同设计,在 DeepSeek、GLM 和 Kimi 等模型上实现了远超 Hopper 的每瓦性能。 - **软件优化**:结合 NVFP4 量化、 disaggregated serving(分离式推理)及 KV cache offloading 等技术,大幅提升单 GPU 性能。 - **能效管理**:通过 DSX MaxLPS 平台实时调配 GPU 功率并支持液冷,使运营商在同等电力预算下可增加多达 40% 的 GPU 运行数量。 - **生产验证**:Anthropic、OpenAI、CoreWeave 等厂商已采用该平台进行大规模推理服务。

原文链接 →