斯坦福 Marin 开源训练 535B 模型,进度已达 13%

斯坦福 Percy Liang 宣布完全开源的大模型训练项目 Marin 本周开训,模型规模 535B 总参/23B 激活,训练进度已达 13%。全程公开,包含预训练(80%)与中期训练(20%),共 18.75T tokens、2.7e24 FLOPs,使用 11 台 GB200,预计约 3 个月完成。算力由 CoreWeave 提供。

2026-09-05 ~ 2026-09-07 · 2 条相关

事件全程(共 2 集)→