Salesforce 论文：外置教师蒸馏费算力，领域专家合并省 42%
rohanpaul_ai · x · 2026-11-08
Salesforce AI Research 论文系统比较了在线策略蒸馏（OPD）与 GRPO 在相同训练 FLOPs 下的留存集准确率，覆盖任务难度、模型规模、领域等维度。核心发现：
- 用外部后训练教师做 OPD，每 FLOP 的准确率普遍输给 GRPO，且常导致回复长度膨胀——因为每个训练 token 都要过一遍教师前向。
- 但教师换成学生自己的 GRPO checkpoint 时，OPD 能以 50 倍更少的蒸馏 FLOPs 恢复该 checkpoint 的数学准确率，在代码、更大模型和第二个模型家族上均复现。
- 跨领域场景下，先用 RL 训出各领域专家，再用多教师 OPD 蒸馏进单个学生：数学+代码混合任务上，总 FLOPs 比联合 GRPO 少 42%，性能持平。
结论：想省算力，应该用 RL 训领域专家再合并蒸馏，而不是从大外部教师蒸馏。
所属事件:Salesforce 论文：自教师蒸馏算力效率远超 GRPO(2 条相关)→
「研究」频道最新
- MuJoCo 4.0 发布：薄物体不再穿透，软体可永久形变 — ZoubinGhahrama1 · 2026-11-08
- mitsuhiko:djs 的 JS「堆转储」或比真 dump 更适合持久化编码 agent — mitsuhiko · 2026-11-08
- Albert Gu 挺 Bitter Lesson：别把苦涩教训只读成堆 Transformer — sewon__min · 2026-11-08
- Autoware 开源越野自动驾驶仿真器:基于 NVIDIA Isaac Sim 支持多车训练 — rsasaki0109 · 2026-11-08
- 超长程智能体时代最迷人的元问题：AI 能否发现超越梯度下降的方法 — JensHonack · 2026-11-08
- LLM 能解博士级数学题,为何下不好国际象棋?Reddit 热问 — MesloubFC · 2026-11-08