COLM 论文：后训练数据中的「岔路口」让推理模型覆盖变窄
ParshinShojaee · x · 2026-10-09
论文：Why Do Reasoning Models Lose Coverage? The Role of Data and Forks in the Road
- 推理模型经 SFT 后训练虽提升 pass@1，但常出现 pass@k 相对基座模型下降的「覆盖收缩」现象。
- 作者提出假设：收缩由微调数据中的「决策点/岔路口」场景驱动——即存在多条有效推理路径、模式难以分辨的节点。
- 通过图分支中不可分辨节点等受控实验追踪后训练动态，发现收缩程度与训练数据中决策点场景的出现频率紧密相关。
- 缓解方法：针对性的决策点数据合成设计，以及更系统鼓励多样性的解码机制。
- 结论：数据因素是覆盖收缩的关键驱动因素。
「模型」频道最新
- LightOnOCR-3 获赞:适合拿最难 OCR 样例实测 — IgorCarron · 2026-10-09
- Gemini 4 Argon 现身 Google 自家模型选择器,发布会在即 — vedantmisra · 2026-10-09
- ChatGPT 桌面版自封 CSV 默认打开方式遭用户吐槽 — generativist · 2026-10-09
- LightOnOCR-3 训练数据详解：MinHash 去重加公式表格加权采样 — IgorCarron · 2026-10-09
- LightOnOCR-3 用多目标 RLVR 同步优化文档定位、OCR 与空页处理 — IgorCarron · 2026-10-09
- 文档 grounding 训练难在标注：LightOn 用多 OCR+布局检测器建管线 — IgorCarron · 2026-10-09