SGLang 峰会分享：NVFP4 4-bit 低精度 RL 千卡实战经验开源
ericzelikman · x · 2026-11-14
在 SGLang Summit 上,humans& 实验室的 Ziang Li 分享了大规模低精度强化学习的生产实践,细节与基准数据将在博客与七月分享中进一步公开。
- 核心工作包括 4-bit(NVFP4)RL 训练与 W4A16 decode 的近期成果,均有完整基准测试
- 技术已在数千张 GPU、数万亿 token 的大规模长时程 RL 上实战验证
- 团队表示今年会将这些成果回馈开源社区,感谢 SGLang、RadixArk 与 NVIDIA 的支持
其博客 humans&.ai 上还有《The 4-bitter Lesson》(NVFP4 RL 中平衡稳定性与性能)等系列文章可深入阅读。
「Infra」频道最新
- Local Code 让 32GB Mac 跑 DeepSeek 4.1 Flash,靠 SSD 流式加载 — alexcovo_eth · 2026-11-14
- 本地模型能否追上前沿？社区争论：瓶颈或将卡在硬件而非算法 — AshAtlasDev · 2026-11-14
- Anthropic IPO 路演页泄露，网友推测 V4.1F 用 Blackwell 训练被拉黑 — teortaxesTex · 2026-11-14
- 《纽约客》访谈称 AI 是暴力穷举问题，将「烧毁地球」 — kevinnbass · 2026-11-14
- 联想官宣混合词元工厂：15000P 集群年产 2000 万亿 Token，绿电进词元出 — 量子位 · 2026-11-14
- Rust 全栈推理引擎 LexiSuite 实测:262k 长上下文快 17-25% — W61k3r · 2026-11-14