Marin 535B 完成预训练，架构决策全程公开

Open Athena 的 Marin 项目宣布 Marin 535B-A23B 于 11 月 5 日完成 18T tokens 预训练。该模型为激活 23B、总参数 535B 的 Latent MoE 架构，由 6 人小团队公开直播训练全程且零训练事故。项目随后发布完整的架构决策复盘博客，Percy Liang 转发并推荐了这篇复盘内容。

2026-11-10 ~ 2026-11-10 · 2 条相关