让大模型先竞争后合作：高效训练小模型的新思路

TheTuringPost · x · 2026-07-16

介绍了一篇关于训练小型代码模型的论文《Compete Then Collaborate》。研究者让 Claude、Gemini、Codex 和 Grok 等多个前沿模型先针对编程任务进行**竞争**，随后**合作**构建共享的课程数据。在此过程中，模型生成的解答质量通过**实际代码执行**来评判，而非依赖传统的 LLM 评委。核心发现：直接使用教师模型生成的解答对学生模型进行 SFT（监督微调）并不能带来提升，甚至可能产生负面影响。