一块 x16 槽带 8 卡:内嵌 PCIe 交换机扩展板的直连与级联玩法拆解
TheZachMueller · x · 2026-10-10
开发者 Zach Mueller 详细拆解了一款内嵌两颗 PCIe switch 的 GPU 扩展板:单个 x16 插槽即可驱动 8 块 GPU,还可通过 MCIO 下行再扩展。
- 两种接法:直连(两条 x16→4x x8 MCIO,GPU 间通过 CPU 通信,适合需要 CPU offload 的场景)与级联(一条 x16 输入 SW1,SW1 下行作为 SW2 输入,绕过 CPU,适合模型能放进多卡显存的推理)。
- 级联省去 CPU 往返;但两组 4 卡 P2P 分组之间交互仍要走单个 x16 的带宽,两侧各 64 lanes 时会成为瓶颈。
- 非直连模式下 slot 1/12 通过 retimer 供电不占插槽;满配 12 卡需主板 3-4 个 x16。
- 作者计划用 9 块卡(8x RTX 6000 + 1x 6000 ADA)以级联方式接入,纠结 TP4/PP2 还是 TP8,等硬件到手后做完整 benchmark。
所属事件:单 x16 插槽驱动 8 卡:双 PCIe 交换扩展板拆解(6 条相关)→
「Infra」频道最新
- 分析称 AI 价值正从模型层转向数据中心与应用层,平均企业已用 5+ 模型 — RihardJarc · 2026-10-10
- 本地跑 AI 不求人:5 个开源项目搭建自己的私有 AI 应用 — Shruti_0810 · 2026-10-10
- 三星拟 2028 引入 4F² DRAM,长鑫年底推 4F² DDR5 内存条 — zephyr_z9 · 2026-10-10
- Lumentum 光器件卖到 2029 年,Nvidia 已注资 20 亿美元 — shashib · 2026-10-10
- SQLite 官方团队开发 Vec1:原生 ANN 向量搜索已功能完整 — solyarisoftware · 2026-10-10
- SpaceX 四笔算力大单年化超 410 亿美元,全年营收剑指千亿 — XFreeze · 2026-10-10