单张 H200 训 20 分钟,GRPO 让 Qwen 3.5-2B 更准更省 token
johnolafenwa · reddit · 2026-09-04
开源模型普遍存在「过度思考」问题。作者(Moses/John Olafenwa)发布 notebook 和视频,从零实现 GRPO 并用它对 Qwen 3.5-2B 做后训练,提升准确率与推理效率。
有趣的发现:训练任务只是「模拟 Python 解释器」,但模型在数学题上也变得更准确、更省 token——泛化效果明显。训练仅约 20 分钟、单张 H200 GPU 完成,代码可套用到任何开源模型。
- 代码:agi-playground/grpo
- 完整训练代码讲解与结果:YouTube 视频
- 附训练前后结果对比图
「研究」频道最新
- 有人把真实海洋幼虫的 2675 神经元接线图搬进 3D 模拟,自己游起来了 — eptwts · 2026-10-21
- 斯坦福 T2-z:机器人戳一下桌面,任务成功率从 34% 提到 73% — stanfordnlp · 2026-10-21
- 李飞飞团队发布 FACT:力觉感知的机器人灵巧操作基础模型 — stanfordnlp · 2026-10-21
- 研究者预告新论文:大模型延迟可满足机器人实时任务 — ManlingLi_ · 2026-10-21
- NVIDIA 开源机器人数据引擎 Flora,成本仅 GPT-6 Astra 的 1/125 — DrJimFan · 2026-10-21
- openRxiv 发布 AI 使用方针,回应研究者投稿中的 AI 采纳潮 — anshulkundaje · 2026-10-21