NVIDIA 以代号「yolo bundle」将 nvfp4 用于大规模预训练
SonglinYang4 · x · 2026-11-14
SonglinYang 透露，NVIDIA 已在预训练中落地 nvfp4（4-bit 浮点格式），项目内部代号「yolo bundle」。此前学界研究者 jackcookjack 对 nvfp4 预训练能否用于真正的大规模训练持怀疑态度，事实证明可行，相关方法已发布博客说明如何在大规模训练中实现。低精度预训练若能稳定规模化，将直接影响训练成本与算力经济。
「Infra」频道最新
- Reddit 网友预测:英伟达受挫窗口期,中国 AI 芯片将涌入市场 — Apart_Tumbleweed_303 · 2026-11-14
- FAA 下达地面停飞令,当事人称「就像昨天的微软一样」 — Kyrannio · 2026-11-14
- AWS 教程:用 NeMo Switchyard 按任务成本路由编码 Agent 请求 — AWS ML Blog · 2026-11-14
- GAO 评估：美国 138 套空管系统中 76% 难以为继，还在用软盘和 Win95 — MartinGTobias · 2026-11-14
- MoE combine 通信量从 16 位压到 8.25 位：RHT+S2F6 量化技巧引热议 — snowclipsed · 2026-11-14
- 第三方周报称黄仁勋辞去 Nvidia CEO，CFO Colette Kress 出任临时 CEO — pdamodaran · 2026-11-14