用 PCIe switch 单插槽多卡跑推理引热议

有开发者分享使用 C-Payne PCIe switch 方案,不拆分 PCIe 通道,让一个插槽挂载多张 GPU 跑推理。其依据是推理流量仅为 KB 级,远不足以占满 Gen5 x16 带宽,真正的大头是 GPU 间通信走 CPU root complex 上行链路。随后 HankYeomans 追问该方案适用的卡数门槛(2 卡起是否就有意义),并进一步询问它能否优化其 DeepSeek 4.1 flash 配合 GPU+CPU/RAM+NVMe 分层加载的混合推理配置。

2026-10-25 ~ 2026-10-25 · 3 条相关

• 不用 PCIe 拆分,一个插槽借 PCIe switch 挂多卡跑推理 — net_termina · 2026-10-25
• 追问 PCIe switch 方案:几张卡才值得上? — HankYeomans · 2026-10-25
• PCIe switch 能否优化 GPU+RAM+NVMe 混合推理配置 — HankYeomans · 2026-10-25