不用 PCIe 拆分,一个插槽借 PCIe switch 挂多卡跑推理
net_termina · x · 2026-10-25
推理流量其实很小(KB 级),远不足以占满 Gen5 x16 带宽;真正的大头是 GPU 间通信走 CPU root complex 上行链路。
使用 C-Payne PCIe switch 等设备可以完全绕开这一瓶颈,无需主板支持 bifurcation,就能在单个 PCIe 插槽下挂多块 GPU 做推理。前提是:不向内存 offload、不关闭 P2P。
所属事件:用 PCIe switch 单插槽多卡跑推理引热议(3 条相关)→
「Infra」频道最新
- 305M 激活参数小模型离线操控电脑：断网订日历只要 0.26 秒 — lmoroney · 2026-10-25
- SGLang 回应对比争议：重跑后 prefill 性能持平或超越 DeepInfer — hsu_byron · 2026-10-25
- 曝 Anthropic 洽谈 450 亿美元算力协议，西弗吉尼亚新增 460MW Rubin 容量 — Beth_Kindig · 2026-10-25
- DIY GPU 集群翻车实录：PCIe 重定时器会让你「着火」 — giffmana · 2026-10-25
- GPT-6.1 Sol 性价比登顶，作者称 Opus 5.5 仍会掉逻辑陷阱 — haider1 · 2026-10-25
- DeepSeek V4.1 Flash 去审查版 GGUF 冲上 Hugging Face 热榜 — orcarouter · 2026-10-25