研究：无外部教师的 hindsight 自蒸馏提升本地模型金融推理

UC Berkeley 与 CTGT 的论文《How Much Does the Hint Matter?》（入选 ACM ICAIF '26）研究金融多步推理的在策略自蒸馏（OPSD）：在数据驻留限制、无外部教师的前提下，学生模型（基于 GPT-OSS-20B 实验）找出自己第一个出错步骤并写批评，再用一句通用反馈替代具体自我批评进行 hindsight 蒸馏，仍可带来约 3 分的提升。

2026-10-29 ~ 2026-10-29 · 2 条相关