清华 CoTranslator：逆向 CoT 蒸馏让 Qwen3-4B 数学成绩大涨
Tsinghua · hf · 2026-10-16
清华大学联合蚂蚁集团、小米提出 CoTranslator，把廉价的逆向思维链（以已知答案为条件生成）翻译成与经验证的正向推理分布匹配的 CoT，用于推理蒸馏，避免了逆向 CoT 的事后合理化问题，也减少了正向生成+拒绝采样所需的教师模型调用。图示在 AIME25/26、HMMT25/26、Omni、IMO 等 benchmark 上，Qwen3-4B-Base 蒸馏后准确率显著超过 SSR/SUP 基线（如 Omni 上 41.06 vs 31.53）。
「研究」频道最新
- LMR-BENCH 登 EMNLP 2025:LLM Agent 能否复现真实语言建模研究 — ZhiyuChen4 · 2026-10-16
- Cammarata 称大模型绝大多数神经元已可读，学界质疑是炒作 — anshulkundaje · 2026-10-16
- 物理学者视角质疑：ML 社区不该默认模型「不可理解」 — tszzl · 2026-10-16
- AI Agent 评测综述:评估日益真实但仍难测安全与可靠 — burkov · 2026-10-16
- 视觉思维链数据集 COVA-SFT 发布，将亮相 EMNLP 2026 Findings — yoavartzi · 2026-10-16
- 中科大团队提出 Speculative Sampling，交互式视频生成延迟大降 — ustc · 2026-10-16