给 agent 一笔 Tinker 预算,自动复现自蒸馏论文结果

SRSchmidgall · x · 2026-09-10

askalphaxiv 分享了一种用自动研究循环复现 post-training 论文的玩法:当前自蒸馏方法众多、互相声称有改进,难以判断哪些结论站得住。

他们的做法是给 agent 设定 Tinker 算力预算,让其在多模型、多训练配置下自动复现自蒸馏结果:只需少量用户提示,agent 便在 Qwen3-8B 和 Qwen3-30B-A3B 上跨多个随机种子复现了 SDFT 的持续学习收益,并探究了 SFT 的失败模式,成本可预测。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →