Inkling RL 训练成本估算:约 2000-4000 块 GPU,MXFP8 混合精度提速 20%
teortaxesTex · x · 2026-11-22
转发的推文给出 Inkling 2 系列模型 RL 阶段的成本估算:约 3000 块 GPU(区间 2000-4000)。
要点:
- TML 提到该配方带来预训练 8% 实际提速、RL 相对全 MXFP8 训练 20% 提速;bwk pass 与最后 1/6 层的 fwd pass 仍用 MXFP8(更大模型上收益可能超过 8%)
- 对比 RL 阶段时需注意:RL 前还有第 2/3/4 阶段运行在 ≥512k 上下文,这部分 FLOPs 在此规模下不可忽略
- 与 Marin 项目对比:Marin 用 704 块活跃 GB200、30% MFU、18T tokens、23B 激活参数、约 60 天;其 20 倍慢的时长大致对应约 3 倍 FLOPs(18/8.4×23/17)、4 倍……
「Infra」频道最新
- SPCX 明年买 10GW GPU 靠预付款?分析师质疑现货市场模式走不通 — toptickcrypto · 2026-11-22
- AI 芯片股周线崩跌:英伟达周跌 22.9%,22 只股票中 17 只跌破下行目标 — pdamodaran · 2026-11-22
- 美国数据中心被忽视的软肋:中国掌握全球约三分之二光模块市场 — kevinnbass · 2026-11-22
- Google 高管访谈:聊浏览器端 Edge AI 与云端生态 — jason_mayes · 2026-11-22
- 23 岁 MIT 辍学创业者打造 AI 算力交易市场 Ornn Exchange — matanSF · 2026-11-22
- Token 价格两月降 60%,Hopper GPU 租金已翻倍续约 — Beth_Kindig · 2026-11-22