斯坦福 Marin 开源 535B-A23B 预训练全部 57 个中间检查点

MaziyarPanahi · x · 2026-11-18

斯坦福 Marin 项目宣布公开「Mochi」535B-A23B 模型预训练过程中的全部 57 个中间检查点,其中含 10 个长上下文扩展阶段检查点。

来自公开研究团队的这类全过程检查点开放,对预训练曲线分析、scaling 研究、模型回溯与消融实验都是稀缺素材,社区评价「对公开研究领域来说是黄金资源」。

所属事件:斯坦福 Marin 开源 535B MoE 模型全部 57 个中间检查点(4 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →