想比较 peer 蒸馏与后训练
maxsloef · x · 2026-07-18
作者提到，fable 的 literature review 基本只找到了“强教师到弱学生”的蒸馏论文。
他真正想比较的是另一种情形：不是传统 teacher-student 蒸馏，而是把一个性能相近的 peer 模型的 rollouts 蒸馏给另一个模型，看看是否能接近“先正常 post-train，再蒸馏”的效果。这个想法被他拿来类比 k3/opus 那类设置。
所属事件:探讨同级模型间的Peer蒸馏与后训练效果(2 条相关)→
「研究」频道最新
- 剑桥等机构论文揭露图软提示的 token collapse 病态行为 — Sapienza · 2026-10-27
- Terence Tao 基金会办 Mathathon：参赛队获 150 万美元算力 — _sathvikr · 2026-10-27
- Mathathon 2.0 启动：与陶哲轩 SAIR 合作，团队获 150 万美元算力 — _sathvikr · 2026-10-27
- 推友提出「甜课程」真实存在：两类 ML 问题应分而治之 — mike64_t · 2026-10-27
- PixGR：像素空间生成式解码加速前馈 3D 高斯重建 — kwangmoo_yi · 2026-10-27
- UniAction 统一动作条件框架:单一世界模型驱动多种动作类型 — ZeYanjie · 2026-10-27