NVFP4 原生 4-bit 训练带来 8% 预训练与 20% RL 时钟加速
snowclipsed · x · 2026-11-14
博主转发并质疑该配方是否在专家层使用 MXFP8,同时贴出博客另一段配图:在大规模训练中,该配方相比全 MXFP8 训练提供约 8% 预训练时钟加速和 20% RL 加速,且量化检查点交付时无需校准。
所属事件:Thinking Machines 详解 Inkling 2 Small 全程原生 4-bit 训练(7 条相关)→
「Infra」频道最新
- Atreides 向英伟达董事会致信,提出最低治理标准 — GavinSBaker · 2026-11-14
- OSINT 分析:全美空管瘫痪元凶是长距通信网,雷达 GPS 均正常 — eigenrobot · 2026-11-14
- Airtel 董事长盛赞 Starlink V3:单次发射 1Tbps 挑战物理极限 — elonmusk · 2026-11-14
- 开发者因 Cloudflare 的 MCP 体验全面迁移域名、存储与邮件服务 — ritakozlov · 2026-11-14
- Brave Leo 用 TEE 实现可验证加密推理,直指 ZDR 只是空头承诺 — gnukeith · 2026-11-14
- 实测 2050 亿 token 账单:缓存读取占 97% 用量、缓存写入吞三成成本 — Nitjsefnie · 2026-11-14