PCIe Switch 多卡实测几乎不掉速
Old_Grapefruit8774 · reddit · 2026-07-11
作者在一台 X99-E-WS 主板上测试了 6 张 MI50 的直连方案,以及通过 PEX8749 PCIe switch 让 4 张卡挂在交换芯片下、另外 2 张直连的方案。
测试配置
- Asus X99-E-WS,刷入支持多 GPU 的改版 BIOS
- Xeon E5-2680 v4
- 128GB DDR4
- 目标是给多机/多卡本地 AI 推理提供约 1TB VRAM 的资源组合
结果
作者用 llama bench 多次测试后发现:
- tg 指标在 switch 方案下通常提升约 0.8%2.8%
- pp 指标损失小于 1%
- 多个组合测试里整体差异很小,有些场景甚至几乎持平
结论是:在这套老平台上,把部分 GPU 挂到 PEX8749 switch 下并没有带来明显性能灾难,反而在 tg 上略有收益。
「编程与Agent」频道最新
- GitHub Next 发布 Chopin:实时多人的 Agent 协作规划环境原型 — max__drake · 2026-10-27
- TMLR 论文:更强推理不等于更充分披露,Agent 思考越多未必告知越全 — SharonYixuanLi · 2026-10-27
- 同一套 DeepSeek 内核两种优化路线:vLLM 拆专家、SGLang 降访存 — AccBalanced · 2026-10-27
- 用 Tailscale 让云端 Grok Bot 在自己 Mac mini 上写代码,全程不开公网端口 — talkaboutdesign · 2026-10-27
- 工程师数月实践:Agent 每次调用重发全量上下文,改一个 token 全额付费 — dscape · 2026-10-27
- Alchemy 支持 Effect Workflow:跨 Durable Objects、Workflows 与 Lambda 持久函数 — samgoodwin89 · 2026-10-27