SA-OPSD:瞄准 beam search 剪枝边界的按需自蒸馏方法
_reachsumit · x · 2026-11-04
论文提出 Search-Aware On-Policy Self-Distillation(SA-OPSD),改进生成式推荐训练中的在线自蒸馏(OPSD)。
两个问题:beam search 中各前缀的重要性不同,初期可靠的决策会随训练逼近剪枝边界;传统分布匹配把目标 token 置信度与竞争分支间偏好耦合,当自教师强烈偏好目标时会削弱关系监督。
方法:
- Evolving-Boundary Sampling:在受控蒸馏预算下,综合当前剪枝边界接近度与初始参考保留裕度衰减,优先采样搜索关键状态
- Confidence-Decoupled Branch Distillation:将目标概率校准与兄弟分支间的信息性偏好解耦,更好保留教师在竞争分支上的偏好
「研究」频道最新
- Anthropic 称将「即将」达到 RSP 加速 AI 研发阈值，并发布可证明推理研究 — tobyordoxford · 2026-11-04
- Google 扫描 1033 件真实家居品,打包成 345MB GLB 免费开放 — victormustar · 2026-11-04
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04
- 实测推翻常见建议：INT8 几乎无害，采样器才是关键 — YakovSava · 2026-11-04
- Karpathy 带火 HN 开源数据集：千万级帖子可当知识库直接用 — huangyun_122 · 2026-11-04
- PixelCraft 多智能体框架登场：专治多模态模型读图表翻车 — burkov · 2026-11-04