SFT 与 RL 如何重组推理轨迹
tw_killian · x · 2026-07-10
这项研究从机制上分析了标准后训练中 SFT 和 RL 的作用:SFT 提供丰富的组合式推理轨迹,RL 则把这些轨迹分解成原子技能和路由策略。
控制实验显示,这种方法尤其能提升模型在未见过的组合与不同推理深度上的表现,说明模型可以复用熟悉的推理片段去解决陌生任务。
所属事件:探秘后训练:SFT与RL如何提升模型推理组合泛化(5 条相关)→
「研究」频道最新
- MissionReport 基准:540 份政府任务报告仅 3 份全达标 — Exp_Mark · 2026-10-27
- Finch 1 发布:用 50+ 种传感器影像训练的通用地理空间基础模型 — Scobleizer · 2026-10-27
- Skyfall AI 推出工程世界模型 SKY-001:文本转 CAD 构建,3.9 秒 vs GPT-6 的 199 秒 — rohanpaul_ai · 2026-10-27
- 物理学家让 AI 自选课题:两小时产出可登顶刊的论文 — burny_tech · 2026-10-27
- 研究者谈评测集透明度:组合性评测仍存数据污染隐患 — najoungkim · 2026-10-27
- 可解释性研究该分清形式与估计器:均值差转向不如直接梯度下降 — johnhewtt · 2026-10-27