Spork 后训练配方让国际象棋解题率较 GRPO 提升 100%
aidenybai · x · 2026-10-14
Applied Compute 发布 Spork,一种高效后训练配方,在国际象棋谜题上的解题率比其最优 GRPO 设置提升 100%。
方法要点:
- 先做 GRPO warmup
- 将任务数据集进一步切分为多个分区,分别训练专家模型
- 再通过 multi-teacher on-policy distillation(多教师在线策略蒸馏)把各专家的收益整合起来
作者类比餐具「spork」(勺叉合一):不需要新范式,只需把专家模型的能力简单整合即可获得增益。Aiden Bai 表示想把这个配方尝试用于 Go 谜题。
「研究」频道最新
- elder_plinius 发布 V3R1T4S:用闲置算力攻克开放问题,一切需可验证 — Kyrannio · 2026-10-14
- RigidFormer 入选 NeurIPS:用 Transformer 替代物理引擎模拟刚体动力学 — camenduru · 2026-10-14
- Anthropic 2021 年研究路线图曝光:预训练、对齐 scaling law 全在列 — srush_nlp · 2026-10-14
- 介于 SFT 与 RL 之间:on-policy 监督微调框架兼顾泛化与算力效率 — burkov · 2026-10-14
- 让模型扮演用户易过度分享,两个团队独立发现同一失败模式 — niloofar_mire · 2026-10-14
- 新研究:合成数据持续累积时,「模型崩溃」并不会发生 — AndrewLampinen · 2026-10-14