DoubtLess免训练对比解码让思维链缩短不降准

港中文与EPFL researchers提出DoubtLess，一种免训练的对比解码方法，用于压缩推理模型的思维链。其机制是用一个小的推理模型把大模型的CoT读两遍，一次提示求简、一次正常解读，再进行对比解码。在Qwen3-32B等模型上，思维链可缩短31%而精度保持不变，且无需重新训练，为推理模型瘦身提供了低成本方案。

2026-10-14 ~ 2026-10-15 · 2 条相关