训练模型补全闭源模型缺失的推理链:一个 FIM 式蒸馏新思路

OwariDa · x · 2026-11-23

OwariDa 提出一个想法:专门训练模型做"fill-in-the-middle"式任务,从专有(闭源)模型的输出中还原被省略的推理过程。奖励函数设计为:在独立的一次评估 pass 中,判断"前缀 + 补全的推理"能否导向正确答案(或最佳下一步)。

他还提醒,训练数据需要由题目构成,且要确保模型不会把答案泄露在补全的推理部分——这是该方法的关键技术难点。

所属事件:OwariDa 提出用 FIM 式蒸馏补全闭源模型缺失推理链(2 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →