英伟达寻求降低 Rubin Ultra 显存需求,广域专家并行或成破局关键
bookwormengr · x · 2026-08-07
针对英伟达计划降低下一代 Rubin Ultra 芯片内存需求的传闻,作者指出这验证了广域专家并行部署策略的重要性。随着模型参数增加和上下文变长,该策略能有效缓解整体对 HBM 内存及带宽的依赖。
作者认为,受限于成本和技术瓶颈,行业将不可避免地转向广域专家并行,这将进一步推动更大规模的互连域和网络处理优化(NPO)的发展,目前的 SuperPoD 架构也正迅速向此方向演进。
所属事件:应对HBM短缺,英伟达考虑削减Rubin Ultra显存(3 条相关)→
「Infra」频道最新
- 印度砸 134 亿美元推「半导体 2.0」,力攻芯片设计与制造 — SumitGup · 2026-08-28
- Meta/Google 将探讨 AI 数据中心光互连架构与能效 — jwt0625 · 2026-08-28
- Coherent-lite 在可插拔光模块能效追平 IMDD — jwt0625 · 2026-08-28
- 纯 MLX 引擎推理提速至 65 tok/s,显存需求减半 — EyalToledano · 2026-08-28
- Qwen3.8 变体实测:8 位量化显存占用降 27% — EyalToledano · 2026-08-28
- Qwen3.8 180B 级模型仅需 39GB 显存即可运行 — EyalToledano · 2026-08-28