用 fill-in-the-middle 训练模型补全闭源模型被省略的推理链
OwariDa · x · 2026-11-23
OwariDa 提出一个训练思路:专门训练模型对闭源专有模型的输出做 fill-in-the-middle 式任务,把被省略的推理过程补全出来。
设计要点:
- 奖励函数应基于『前缀 + 补全的推理』能否在目标模型的单独一轮推理中得出正确答案(或最佳下一步);
- 数据集必须由目标模型本来解不出的问题构成,否则补全没有价值。
「研究」频道最新
- NeurIPS 论文拆解「柏拉图表示假说」:余弦相似度掩盖了建模选择差异 — loremstasum · 2026-11-23
- 黎曼证明疑云:Lean社区认证通过,又被扒出几何谓词恒为True — rickasaurus · 2026-11-23
- Rust 视觉定位库 visloc-rs 突破 200 GitHub Star — rsasaki0109 · 2026-11-23
- Rust 视觉定位库 visloc-rs 突破 200 GitHub Star — rsasaki0109 · 2026-11-23
- HiSA 注意力方法砍掉 65-71% Q·K 计算,解码吞吐提升 41% — Promptmethus · 2026-11-23
- JacquesThibs 论预训练与 RL 分工:前者定下限,后者提上限 — JacquesThibs · 2026-11-23