Nemotron 后训练成自主 ML 研究员,20 倍参数差距下追平 Qwen
kuchaev · x · 2026-10-16
Alex Dimakis 团队宣布将 NVIDIA Nemotron-3.5-Super-VL 后训练为一个自主 ML 研究员,在 AutoResearchExam 上从 28% 提升到 35%,追平总参数量约 20 倍的 Qwen 3.8 Max。
- 任务形态:长程、开放式的 AI/ML 研究任务,如为 transformer 计算图写更快的执行器、训练 RL 控制策略、设计新的不确定性量化方法;模型只有一次提交机会,结束前看不到分数。
- 训练方法:用 Self-context distillation 构建 SFT 数据——先让模型在提示辅助下解题,再用这些轨迹做 SFT(推文在数据构建处截断)。
- Dimakis 补充称该模型「后训练效果相当好」。
所属事件:Nemotron 后训练成自主 ML 研究员,成绩大幅提升(2 条相关)→
「模型」频道最新
- AWS 延期 Claude Sonnet 3/3.5/3.6 EOL 至 2026 年 11 月 13 日 — repligate · 2026-10-16
- OpenAI 推出 Rosalind Academic 计划,美国高校实验室可获赞助使用 — OpenAI · 2026-10-16
- 2GB 的小模型 Bonsai 2 9B 上线,官方称速度表现非常有趣 — gajesh · 2026-10-16
- 扎克伯格与 Alexandr Wang 长谈:千亿美元豪赌与 Muse Wonder — RylanSchaeffer · 2026-10-16
- 从激活图谱到今日特征可视化:神经元可解释性肉眼可见地跃升 — MajmudarAdam · 2026-10-16
- 怀念 ChatGPT 插件商店时代,一张老截图引发回忆杀 — adhamelarabawy · 2026-10-16