async 4 罕见公开训练数据配比，MoE 路由崩溃引热议

async 4 团队罕见公开了训练数据混合中各成分的百分比，被评论者称赞为最早这样做的团队之一，且模型在整体仅 30 步的运行中表现令人意外。与此同时，博主们热议其训练事故细节：即便经过 R3 相关处理，路由器仍在未冻结状态下中途崩溃，有人猜测多模态训练可能是诱因，还有人追问 MOPD 发生的时间点，认为训练日志看起来相当惨烈。

2026-09-22 ~ 2026-09-22 · 3 条相关

• async 4 罕见公开训练数据配比,评论者称 30 步全跑完表现意外 — stochasticchasm · 2026-09-22
• 训练 30 步路由即崩?博主热议某团队罕见披露数据配比 — stochasticchasm · 2026-09-22
• MoE 训练翻车细节：路由器在未冻结下崩溃，多模态或为元凶 — stochasticchasm · 2026-09-22