TailSFT:用尾部加权 SFT 提升覆盖度,让强化学习每一步更值
canondetortugas · x · 2026-09-12
Sadhika Malladi 团队提出 TailSFT:鉴于 RL 训练成本高昂、每一步都应有效,团队一年前已证明交叉熵 SFT 并非 RL 前的最佳准备方式,如今提出这种轻量且有原则的方法,直接提升数据覆盖度,从而在 RL 后获得更好的性能。相关工作基于 OLMo,获得 finbarrtimbers 等研究者转发肯定。
所属事件:DeepMind 与普林斯顿提出 TailSFT：为 RL 提效的微调新法(3 条相关)→
「研究」频道最新
- AISTATS 2027 workshop 提案截止延至 11 月 6 日 — qberthet · 2026-10-31
- 斯坦福 10 门 AI 课程免费上线 YouTube，吴恩达与 Manning 主讲 — stanfordnlp · 2026-10-31
- 给 Agent 加「拒绝记录」再试错：多智能体排障的工业级实验设计 — krishnan · 2026-10-31
- krishnan 提议：记录故障排查中被否决的解释，留作未来重开的证据 — krishnan · 2026-10-31
- krishnan 点评多智能体自主实验室：批评改变了下一步搜索方向 — krishnan · 2026-10-31
- 东京科学大学预印本：多智能体 AI 实验室自主研究金刚石量子自旋 — krishnan · 2026-10-31