给 agent 一笔 Tinker 预算,自动复现自蒸馏论文结果
SRSchmidgall · x · 2026-09-10
askalphaxiv 分享了一种用自动研究循环复现 post-training 论文的玩法:当前自蒸馏方法众多、互相声称有改进,难以判断哪些结论站得住。
他们的做法是给 agent 设定 Tinker 算力预算,让其在多模型、多训练配置下自动复现自蒸馏结果:只需少量用户提示,agent 便在 Qwen3-8B 和 Qwen3-30B-A3B 上跨多个随机种子复现了 SDFT 的持续学习收益,并探究了 SFT 的失败模式,成本可预测。
「编程与Agent」频道最新
- K3 优化 mjwarp 内核提速 77%,GPT-6 再优化仅 0.38% — YouJiacheng · 2026-09-10
- K3 优化 mjwarp 内核提速 77%,GPT-6 Astra 再优化仅 0.38% — YouJiacheng · 2026-09-10
- 同一份异步程序七种输出:Async/Await 跨语言差异远超预期 — IanArawjo · 2026-09-10
- 开发者感叹:模型越聪明,要审的 AI 生成 PR 也越难跟上 — smlpth · 2026-09-10
- Automattic 推 agent 即时托管 here.now,3 秒发布已承载 50 万站点 — iannuttall · 2026-09-10
- mitsuhiko 实测 Google Astra:很惊艳,但还不敢用于日常工程 — mitsuhiko · 2026-09-10