Fin-SD:无外部教师的后见自蒸馏方法,提升本地模型金融多步推理
ctgt-inc · hf · 2026-10-29
UC Berkeley 与 CTGT 的论文《How Much Does the Hint Matter?》研究金融推理中的在策略自蒸馏(OPSD):在数据驻留限制下,金融机构只能部署小到可本地托管的开源权重模型,而这类模型在多步定量推理上远落后于前沿系统。
Fin-SD 方法:学生模型做错题时,自己定位第一个错误推理步骤并写简短批评,在错误前截断得到正确前缀,用冻结的学生副本在同一前缀条件下继续训练——无需外部教师模型和完整参考解答。
论文核心问题是:传统 OPD 所需的参考信号(如提示/完整解答)到底有多少是必要的?作者给出了该方法的适用范围条件(scope conditions)。论文入选 ACM ICAIF '26。
所属事件:研究：无外部教师的 hindsight 自蒸馏提升本地模型金融推理(2 条相关)→
「研究」频道最新
- SceneBloom 论文、代码与项目页全放出,附基线对比图 — Lianhuiq · 2026-10-29
- Fireworks 推出专项智能指数 SII,新增 31 家伙伴覆盖 14 个领域 — lqiao · 2026-10-29
- SceneBloom:扩散模型生成 3D 室内场景,导航收益达真实扫描 1.7 倍 — Lianhuiq · 2026-10-29
- 结合蛋白设计只解释约 3% 临床失败，AlphaFold 类模型被高估？ — clarejtbirch · 2026-10-29
- Byte H-Net 代码任务显示 2.24 倍计算效率，OpenAI 研究员提醒规模 caveat — willdepue · 2026-10-29
- 467页图解《心理学与神经科学原理》上线,可配 AI 导师阅读 — burkov · 2026-10-29