微调 Gemma 模型遇 GRPO 奖励骤降,输出退化为重复乱码
ivan_bezdomny · x · 2026-08-02
开发者在微调 Gemma 模型时遭遇异常:训练初期一切正常,但随后 GRPO 奖励突然降至零。模型输出完全退化为重复的无意义乱码,且无法自行恢复。
所属事件:微调Gemma模型遇GRPO奖励骤降,输出退化为乱码(2 条相关)→
「研究」频道最新
- Optuna 作者秋叶哉:花3亿日元调2个超参的时代,BO/HPO 还有何用武之地 — Stefania_druga · 2026-10-16
- 学者争论:AI 将超越人类做科学,欧洲躲不开只能用别人的 — teortaxesTex · 2026-10-16
- 上海 AI Lab 提出 SERO:用可执行 Oracle 续跑训练长程智能体强化学习 — Shanghai-AI-Laboratory · 2026-10-16
- 清华联手高德发布 OmniVerifier-C1:把二元验证器升级为细粒度打分 — Bowei Liu · 2026-10-16
- 阿里开源 MAI-Gym:移动与桌面 GUI Agent 评测加强化学习训练一体化平台 — Tongyi-MAI · 2026-10-16
- 北大发布 SimForcing:把仿真运动先验蒸馏进真实机器人世界模型 — PekingUniversity · 2026-10-16