REOPOLD：选择性分配教师反馈，让小模型蒸馏推理更稳
burkov · x · 2026-11-13
小模型可通过 on-policy 蒸馏从强模型获得推理能力：学生自己生成回答，由教师给反馈。但标准方法对所有 token 施加同等强度的反馈，少量极端负信号可能主导训练，压制有用的推理路径、降低回复多样性，甚至让学生越训越差。文章介绍的 REOPOLD 方法调整教师信号参与训练的粒度、负信号权重及其随时间的衰减规则，并在数学、视觉与工具使用推理任务上做了对比实验。
「模型」频道最新
- Kaggle 推出 Arenas:社区投票决定模型对战排行榜 — amankhan · 2026-11-13
- Perplexity Decider V1.3 决策模型 OpenRouter 限时免费至 11 月 19 日 — antoine_chaffin · 2026-11-13
- 模型命名太乱，开发者呼吁回归 small/medium/large — andpoul · 2026-11-13
- 微软 Copilot 接入 Anthropic Claude Fable 5.2，Cowork 与 Studio 可选 — luisdans · 2026-11-13
- benchmarks.bio 发布 TxBench 抗体开发榜单:Gemini 4 系列遥遥领先 — kenbwork · 2026-11-13
- 社区吐槽:OpenAI 晒神秘强模型两个月,就是不发布 — imjustnewatai · 2026-11-13