梯度跳到 164 万、loss 飙至 12.17：一次大模型训练崩盘实录
francoisfleuret · x · 2026-11-04
François Fleuret 转发了一段训练日志并调侃「读起来像宇宙大爆炸的描述」：某次训练 run 被停止并废弃，首次大梯度跳变出现在第 996 步，第 1004 步梯度冲到 164 万，五步后 loss 峰值达 12.17。
这是预训练不稳定性的一次直观实录：梯度爆炸从出现到 loss 崩溃只隔十步左右，大规模训练中对梯度尖峰的监控与及时止损必不可少。
「Fun」频道最新
- 看多了 AI 视频,大脑会把「真实感」当成一种可翻转的知觉属性 — dioscuri · 2026-11-05
- Hesamation：各大前沿实验室都在憋新模型，谁也不肯先发 — Hesamation · 2026-11-05
- 「人人都能当黄金王座上的帝皇」:AI 生成战锤梗图 — rickasaurus · 2026-11-05
- ChatGPT 找出暖气故障真凶是死松鼠，三周帮用户省下 3000 美元 — neil_chilson · 2026-11-05
- Grok Bot 风头盖过 Cursor?热帖直指 AI 编码工具热度转移 — mark_k · 2026-11-05
- AI 公司买实体书裁脊扫描销毁，转脸给 Claude Code 加版权拦截 — Yamapama · 2026-11-05