斯坦福 Marin 535B 模型开训，全程公开

udmrzn · x · 2026-08-24

斯坦福教授 Percy Liang 宣布其新模型 Marin 535B-A23B 正式开训，并将整个训练过程向公众公开。该模型拥有 535B 总参数（23B 激活参数），使用 18.75T tokens 数据，动用 11 套 GB200 NVL72（约 792 张显卡），预计训练 3 个月，计算量约 2.7e24 FLOPs。在主模型训练前，团队已完成 4 级 Scaling Ladder（从 1.6B 到 27.7B）以预测状态。现在公众可直接围观实时训练曲线及后续实验记录，这可能是人类公开围观过的最大规模模型训练。