OPSD塌缩时可试优势估计器
willccbb · x · 2026-07-11
作者分享了一个在 OPSD 训练里排查 model collapse 的实用技巧：
- 当训练过程反复出现塌缩时，先尝试 移除 hinted logprob ratio。
- 再把它 替换成 advantage estimator。
这条信息虽然简短，但提供了明确的故障定位与替代方案，属于可直接参考的训练调试建议。
「研究」频道最新
- EMNLP Oral 论文：免训练 KV 缓存驱逐实现 10 倍内存压缩 — yuz9yuz · 2026-10-27
- ICML 2026立场论文:别把中间token叫「思考轨迹」 — rao2z · 2026-10-27
- forking 收官：probe gap 随上下文频率呈幂律，掩蔽低频 n-gram 可缩小差距 — ZimingLiu11 · 2026-10-27
- 「forking」机制拆解：n-gram 表把 logits 切成互不干扰的子空间 — ZimingLiu11 · 2026-10-27
- 被称最佳 LoRA 讲解视频：从几何直觉讲到任务内在维度 — sophiamyang · 2026-10-27
- 不改一个权重，机器人精度任务从 0/10 提到 9/10 — hbouammar · 2026-10-27