数据软重复致梯度爆炸，开发者揭示 GRPO 训练崩溃根因
ivan_bezdomny · x · 2026-08-02
作者分析了此前 Gemma 模型在 GRPO 训练中崩溃的原因。他指出，GRPO 会针对同一输入生成多个输出并计算梯度。当连续两个批次的数据中包含大量相同的罕见词（如特定的法案名称）时，会产生方向高度一致的梯度。这种在动量加持下的连续重复反向传播，直接导致模型权重被“吹爆”且无法恢复。
所属事件:开发者揭示大模型微调脆弱性：数据重复易致崩溃(3 条相关)→
「研究」频道最新
- 新架构 RHEA：8GB 显存即可训练 10 亿参数模型 — zemondza · 2026-08-24
- 跳过 LLM 写代码老套路：自训 16M 参数模型做生成式 CAD — debreuil · 2026-08-24
- Claude 助手发现 6 维球复结构，解 60 年数学难题 — Singularitarian · 2026-08-24
- 研究揭示 AI Agent 行为：六成阅读量来自指令与笔记 — dair_ai · 2026-08-24
- Claude 自主验证 43 个数学模块，AI 攻克理论物理难题 — Tkaraletsos · 2026-08-24
- AI 假记忆：为何模型越用越错，真记忆需遗忘 — PrajwalTomar_ · 2026-08-24