一块训练器喂四种芯片:ai& 实测异构硬件 RL,HTTP 同步仅慢 6.5 倍
DavidBennett__ · x · 2026-11-16
ai& Research 发布异构硬件 RL 训练实测报告,并在 SGL Summit 上做了分享。核心做法:一个双节点 B300 训练器同时接收来自 B300、H200、MI355X、MI300X(横跨 NVIDIA/AMD 两家)四个 rollout 引擎的采样,通过普通 HTTP 传输,连续跑了 10 小时、10 个 RL 步,每次 adapter 同步都成功落到所有引擎,零重启。
关键发现:
- 网络传输不是瓶颈(LoRA 场景):InfiniBand 同步比 HTTP 快 6.5 倍,但只节省不到 2% 的单步耗时——因为同步的是 4 GB 的 LoRA adapter,而非 709 GB 的底座模型。
- 加 rollout 节点有效但有上限:增加第二个 MI355X 节点后 rollout 吞吐几乎翻倍(1.9×),此时运行变成 trainer-bound。
- 难点在软件:相同启动配置在不同芯片上落到不同引擎,失败多为少有人跑过的 LoRA 路径。
各引擎实测吞吐:MI355X 2,490 tok/s、B300 1,790 tok/s、MI300X 1,180 tok/s、H200 1,030 tok/s。结论:训练用一块芯片、采样用任意芯片是可行的,真正的门槛是软件适配而非硬件/网络。
「Infra」频道最新
- Thinking Machines 发布 Inkling 2 Small:4 卡跑 38 万并发 KV cache — LiTianleli · 2026-11-16
- 三星美光 SK 海力士 RAM 反垄断案获准推进：18 个月涨价 697% — wen_ragnarok · 2026-11-16
- 开源工具 Cynapse 发布：为本地 LLM 做真实性与偏见体检 — _AustinCalvert_ · 2026-11-16
- WEKA 开源 kvlab：用真实 Agent 流量重放测 KV 缓存卸载收益 — AccBalanced · 2026-11-16
- 多条 LLM 推理吞吐基准工具盘点:Dynamo AIPerf 等 — AccBalanced · 2026-11-16
- KubeCon 热点：推理成为 Kubernetes 核心议题，五大组件全景拆解 — AccBalanced · 2026-11-16