研究:竞争+协作训练小型代码模型
TheTuringPost · x · 2026-07-16
这篇论文讨论了如何训练小型代码模型:先让 Claude、Gemini、Codex 和 Grok 彼此竞争,再协作生成共享课程(curriculum)。模型答案不是靠 LLM judge,而是通过真实代码执行来评分。 主要结果包括: - 直接对教师解答做 SFT,学生性能不但没提升,甚至可能下降。 - 在竞赛题上,性能从 5.9% 掉到 2.9%。 - 但如果把同一套课程放进带可验证奖励的 RL 环境里,性能最高提升到 8.8%。 作者的结论是:AI teacher 的价值可能不在“直接产出训练数据”,而在于构建可验证的学习环境,让模型通过做题来学习。