NVIDIA LPU 支持三种解耦推理模式，将搭配 Rubin 架构
teortaxesTex · x · 2026-09-01
NVIDIA LPU 支持三种解耦推理（disaggregated inferencing）模式：
- Rubin Prefill + LPU Decode：实现最快的交互性。
- Rubin Prefill + Rubin Decode Attention + LPU Decode FFN：定位中端性能曲线。
- Rubin Prefill + Rubin Decode Verification + LPU Drafter：定位中左端性能曲线。
对于低交互性任务，原生 Rubin 架构仍具优势。期待在 AgentX 等开源 Agent 基准上看到 Rubin + LPU 的性能表现。
所属事件:NVIDIA LPU 支持三种分离式推理配置(2 条相关)→
「Infra」频道最新
- Reflection AI 开源 Beam：Apache 2.0 权重+40 余家生态伙伴 — zhyncs42 · 2026-10-16
- NVIDIA RTX Spark 正式发布，主打 Windows PC 本地跑 AI — ostrisai · 2026-10-16
- SkyRL 为 Beam 提供首日 RL 支持,LoRA 解码吞吐提升 62% — vllm_project · 2026-10-16
- DFlash2 为 Beam 解码提速最高 3.03 倍 — vllm_project · 2026-10-16
- Beam 长上下文服务优化:GB200 前向最快降 20% — vllm_project · 2026-10-16
- Reflection Beam 501B MoE 登陆 GB200:单用户 463 tok/s — zhyncs42 · 2026-10-16