训练 30 步路由即崩?博主热议某团队罕见披露数据配比

stochasticchasm · x · 2026-09-22

博主 stochasticchasm 评论一次模型训练事故:即使经过 R3 相关处理,路由器(router)仍在中途挂掉且未冻结,他猜测多模态训练可能是诱因,因为专家(expert)在多模态模型中的行为往往很怪异。他同时对另一观察表示惊讶:async 4 在整轮仅 30 步的 run 中表现意外,并称赞该团队公开了数据配比(data mix)百分比,称这是首批这样做的团队之一。

所属事件:async 4 罕见公开训练数据配比,MoE 路由崩溃引热议(3 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →