Inkling 2 Small 用 NVFP4 混合精度训练,速度精度兼得
HanGuo97 · x · 2026-11-14
Jack Cook 团队发布 Inkling 2 Small,这是首个部分使用 NVFP4 精度训练的模型。他们采用混合精度训练方案,在速度与精度之间取得了很好的权衡,并分享了具体做法与训练过程中的经验教训。
「研究」频道最新
- PiHand:手物交互先验让灵巧手 RL 训练样本需求降 10 倍 — KyleMorgenstein · 2026-11-14
- 新论文:对称性是层级涌现与抽象的共同起源 — mjdramstead · 2026-11-14
- MoE combine 通信量从 16 位压到 8.25 位:RHT+S2F6 量化技巧引热议 — snowclipsed · 2026-11-14
- 科学家在计算机中 4D 模拟完整活细胞,登 Cell 期刊 — tomchapin · 2026-11-14
- 质疑 Anthropic 算法大跃进:同算力下 bpb 大幅提升不可信 — teortaxesTex · 2026-11-14
- 蚂蚁 Mara Chain:失败编辑留证据,AppWorld 少 6 千次_rollout 追平 GEPA — jiqizhixin · 2026-11-14