SGLang 峰会分享:NVFP4 低精度 RL 经千卡万亿 token 实战验证

gharik · x · 2026-11-14

在 SGLang 峰会上,zianglih 分享了生产级低精度强化学习的实践,重点包括 NVFP4、MXFP8 精度下的 RL 训练与 w4a16 低精度解码。转发者 Yuchen He 表示,相关 4bit (NVFP4) RL 与 w4a16 decode 的更多细节、图示和 benchmark 已发布在 humans& 博客上,所有方法都经过数千 GPU、数万亿 token 的大规模长程 RL 验证,团队今年已将这些成果回馈开源社区(涉及 sglang、radixark 与 NVIDIA AI Dev)。

humans& 博客的相关文章包括《The 4-bitter Lesson》(NVFP4 强化学习中稳定性与性能的平衡)与《Faster-than-light NVFP4 decode》(16-bit NVFP4 解码的出人意料的有效性),对做大模型 RL 训练的工程团队有直接参考价值。