Exploration-Distillation防止RL中通用能力退化，匹配时间下优于RND
micahgoldblum · x · 2026-10-13
Exploration-Distillation（ExpDis）的进一步说明：
- 它能防止在 RL 中直接使用新颖性奖励（novelty bonus）时观察到的通用能力与知识退化，因为 ExpDis 将学生模型与探索者的退化隔离开来。
- 实验显示，将 ExpDis 与随机网络蒸馏（RND）结合，在匹配的墙钟时间下能获得更好的 RLVR 效果。
- 这些增益在 pass@k（大 k）下持续甚至增长，表明提升的是多样性而非单纯的锐化（sharpening）。
所属事件:NYU团队推出ExpDis：解耦探索与优化，性能超DAPO(6 条相关)→
「研究」频道最新
- YC 公司 b12 Labs 推出 b12 Foundry,AI 设计分子自动化量产 — Scobleizer · 2026-10-14
- IBM STAIR 借目录检索，幻觉率降至 0.05%，比对手低 65 倍 — alex_verem · 2026-10-14
- kANNolo 0.12 发布 RerankIndex：两阶段检索框架吞吐超 HNSW — CShorten30 · 2026-10-14
- Gemini 4 登顶 RareBench 与 LabBench，科研基准超 Opus 5.5 — danielmckinn0n · 2026-10-14
- Flow Matching 论文:仅缩放速度场,FID 从 28.0 降至 8.7 — francoisfleuret · 2026-10-14
- Prompteina：用一句自然语言直接设计全原子蛋白质 — RulinShao · 2026-10-14