斯坦福启动 535B 模型 Marin 训练，全流程开源
soumitrashukla9 · x · 2026-08-22
Stanford CRFM 宣布 Marin 535B-A23B 模型本周开始训练，预训练加中期训练将使用 18.75T tokens，部署在 11 套 GB200 NVL72 集群上，预计耗时约 3 个月，算力消耗达 2.7e24 FLOPs。
为保障此次最大规模训练的稳定性，团队提前构建了包含 1.6B 至 27.7B 的 4 级扩展阶梯进行调试与预测。该项目的核心原则延续自 5 年前发布的 Mistral 框架：简洁性、社区化、灵活性、透明度、可复现性、教学性与可扩展性。
所属事件:斯坦福 Marin 启动 535B 模型全透明训练并开源 23T token 数据(7 条相关)→
「Infra」频道最新
- 旧金山办「算力交易大厅」：买家卖家面对面签算力协议 — ctjlewis · 2026-10-16
- Temporal Serverless Workers 登陆 Cloud Run:按任务队列自动伸缩、可缩至零 — rseroter · 2026-10-16
- LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线 — ying11231 · 2026-10-16
- Semtech 分析师日幻灯片讲透信号完整性：衰减、带宽、非线性、噪声四大损伤 — BenBajarin · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 伯克利学者：芯片供应链高度集中，硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16