Modal 公开异构 RL 训练栈：六种加速器混合采样，B200 上 BF16 更新策略
ying11231 · x · 2026-10-15
- Modal 介绍了其 RL 训练基建：使用 Radix Ark 的 Miles 作为 RL 框架，SGLang 采样器，Megatron-LM 训练器在 B200 GPU 上以 BF16 更新策略。
- 配图展示了各型号 GPU 的请求服务占比：B300 (NVFP4/TRT-LLM) 29%、B200 (NVFP4) 20%、H200 FP8 18%、H200 BF16 9%、H100 BF16 9%、H100 FP8 8%、RTX PRO 6000 4%、A100 3%。
- 两种部署方案：1) 混合采样器，跨六种加速器、三种精度（BF16、FP8、NVFP4）；2) 同构采样器，仅用 B200、BF16 权重与 BF16 KV cache。展示了异构算力做大规模 RL 的工程路线。
所属事件:Modal 实证异构混合精度异步 RL 训练可行且更省成本(7 条相关)→
「Infra」频道最新
- 用 Jev 路由器把 GPT 5.1 任务分流到开源模型，成本省约 73% — gaganghotra_ · 2026-10-15
- 欧盟与中方谈判解除德企制裁，ASML 供应链命悬一人公司 — teortaxesTex · 2026-10-15
- gpt-live 抗回声够强，为何本地 AEC 仍有必要？ — juberti · 2026-10-15
- 黄仁勋放话：不会把 GPU 卖给不负责任的 AI 实验室 — rohanpaul_ai · 2026-10-15
- aiand_ CEO 赴东京日经 GenAI 峰会谈日本推理基建 — DavidBennett__ · 2026-10-15
- 花旗预测 Agentic CPU 市场 4 年增长 14 倍至 1574 亿美元 — Beth_Kindig · 2026-10-15