训练模型补全闭源模型缺失的推理链:一个 FIM 式蒸馏新思路
OwariDa · x · 2026-11-23
OwariDa 提出一个想法:专门训练模型做"fill-in-the-middle"式任务,从专有(闭源)模型的输出中还原被省略的推理过程。奖励函数设计为:在独立的一次评估 pass 中,判断"前缀 + 补全的推理"能否导向正确答案(或最佳下一步)。
他还提醒,训练数据需要由题目构成,且要确保模型不会把答案泄露在补全的推理部分——这是该方法的关键技术难点。
所属事件:OwariDa 提出用 FIM 式蒸馏补全闭源模型缺失推理链(2 条相关)→
「研究」频道最新
- 用填空式蒸馏套取前沿模型隐藏推理链的构想 — OwariDa · 2026-11-23
- 剪枝再升杯:单一模型按内存动态伸缩的构想 — minhnguyen · 2026-11-23
- Claude 驱动 GRH 证明形式化:生成 1700 万行 Lean 代码并通过认证 — elonmusk · 2026-11-23
- 用 Claude 构建的黎曼猜想证明问世:1700 万行 Lean,无人能通读 — r0ck3t23 · 2026-11-23
- CLM 作者点评:KV 缓存复用扩展到视频上下文管理,预填 token 省 30% — RulinShao · 2026-11-23
- 传 Anthropic 研究员 alpoge 攻克全球最大数学 открыт问题之一,本人至今保持沉默 — kimmonismus · 2026-11-23