训练 30 步路由即崩?博主热议某团队罕见披露数据配比
stochasticchasm · x · 2026-09-22
博主 stochasticchasm 评论一次模型训练事故:即使经过 R3 相关处理,路由器(router)仍在中途挂掉且未冻结,他猜测多模态训练可能是诱因,因为专家(expert)在多模态模型中的行为往往很怪异。他同时对另一观察表示惊讶:async 4 在整轮仅 30 步的 run 中表现意外,并称赞该团队公开了数据配比(data mix)百分比,称这是首批这样做的团队之一。
所属事件:async 4 罕见公开训练数据配比,MoE 路由崩溃引热议(3 条相关)→
「模型」频道最新
- Grok 4.7 发布:编程评测登顶,价格仅对标模型一半 — FinanceYF5 · 2026-09-22
- Grok 4.7 发布:价格不变,Terminal-Bench 成绩从 20.3% 翻倍至 38% — FinanceYF5 · 2026-09-22
- Anthropic 状态页显示 Claude 多个模型错误率升高 — corvad · 2026-09-22
- antirez 与 tenobrus 联手泼冷水:Jev 演示皆夸大,离真可用还远 — burny_tech · 2026-09-22
- 马斯克确认:Grok 90 天从榜外杀回前三,4.8 下月再战 — elonmusk · 2026-09-22
- Anthropic 多款 Claude 模型错误率升高,官方排查中 — ClaudeAI-mod-bot · 2026-09-22