NVIDIA LPU 支持三种分离式推理配置

据 SemiAnalysis 分析，NVIDIA LPU 将支持三种分离式推理配置，即将 prefill 与 decode 阶段拆分部署：包括 Rubin Prefill + LPU Decode、以及 LPU 同时承担两个阶段等组合模式，并与即将到来的 Rubin 架构搭配使用。其中 Rubin 负责预填充、LPU 负责解码的组合可实现最快的交互响应，显示出 NVIDIA 在推理算力布局上的新思路。

2026-09-01 ~ 2026-09-01 · 2 条相关