Surge 用 Tinker 对 Nemotron 3.5 Super 做 RL,逼近 GPT-5.6
Surge AI 发布官方博客,详解团队如何使用 Thinking Machines 的 Tinker 平台,对 NVIDIA Nemotron 3.5 Super VL(120B 总参数、12B 激活)进行强化学习训练。训练基于 Surge 自家的四套 RL 数据集,12 项基准测试成绩全面提升 4.5 至 18.6 个百分点,整体逼近 GPT-5.6 的水平。作者 echen 认为开源模型的提升空间被严重低估,该案例值得关注。
已确认
- 训练在 Thinking Machines 的 Tinker 框架/平台上完成,四个 RL 数据集分别覆盖软件工程(如 SWE-Bench Pro 相关评测)、复杂指令遵循、长程企业工作流、多模态知识工作,各自产出独立 checkpoint
- 12 项基准测试成绩全面提升,提升幅度为 4.5 至 18.6 个百分点,整体逼近 GPT-5.6 的水平
- 训练后的模型在 SWE-Bench Pro 等评测中表现突出,跑赢 GPT-5.6
- echen 在回复 John Schulman 与 Mira Murati 时表示,团队很喜欢 Tinker:可以并行跑多个 RL 实验和评测而无需自己管理 GPU,且切换模型尺寸只需一行代码
为什么重要
- echen 指出,人们严重低估了开源模型的提升空间:一个仅 12B 激活参数的模型经高质量 RL 数据训练后,可达到约 20 倍规模模型的前沿水平
- 该案例展示了「高质量 RL 数据 + 可复用训练平台」对开源模型能力上限的放大作用,为中小规模模型的实用化提供了参考路径
2026-11-06 ~ 2026-11-06 · 6 条相关
一手来源
- 12B 开源模型靠 RL 数据逆袭:SurgeAI 训练版 Nemotron 跑赢 GPT-5.6 — echen · 2026-11-06
- 120B 开源模型经 Surge RL 训练,12 项基准全面逼近 GPT-5.6 — echen · 2026-11-06
- 【源头】Surge 详解如何用 Tinker 把 Nemotron 3.5 推向前沿水平 — echen · 2026-11-06
- Surge 研究团队点赞 Tinker:并行跑 RL 实验,一行代码换模型 — echen · 2026-11-06
- 【源头】开源模型天花板被低估:Nemotron 3.5 Super 经 RL 后比肩 20 倍大模型 — echen · 2026-11-06
- 【源头】Surge 用 Tinker 训练 Nemotron 3.5 Super,12 项基准提升 4.5-18.6 个百分点 — echen · 2026-11-06