微调 Gemma 模型遇 GRPO 奖励骤降,输出退化为重复乱码
ivan_bezdomny · x · 2026-08-02
开发者在微调 Gemma 模型时遭遇异常:训练初期一切正常,但随后 GRPO 奖励突然降至零。模型输出完全退化为重复的无意义乱码,且无法自行恢复。
所属事件:微调Gemma模型遇GRPO奖励骤降,输出退化为乱码(2 条相关)→
「研究」频道最新
- 新架构 RHEA:8GB 显存即可训练 10 亿参数模型 — zemondza · 2026-08-24
- 跳过 LLM 写代码老套路:自训 16M 参数模型做生成式 CAD — debreuil · 2026-08-24
- Claude 助手发现 6 维球复结构,解 60 年数学难题 — Singularitarian · 2026-08-24
- 研究揭示 AI Agent 行为:六成阅读量来自指令与笔记 — dair_ai · 2026-08-24
- Claude 自主验证 43 个数学模块,AI 攻克理论物理难题 — Tkaraletsos · 2026-08-24
- AI 假记忆:为何模型越用越错,真记忆需遗忘 — PrajwalTomar_ · 2026-08-24