NVIDIA 论文:无需后训练即可预判哪个基座适合做编码 Agent

hyunw_kim · x · 2026-10-20

NVIDIA 研究团队发布论文《Before They Can Solve: Predicting Post-Training Coding-Agent Performance from Base Models》(arXiv:2610.10478),作者包括 Bryan Catanzaro、Jonathon Cohen、Ashish Vaswani 等 22 人。

要解决的问题:基模型往往无法操作 coding-agent harness——SWE-bench Verified 上 6 个基模型中 5 个得 0%,但后训练版本最高达 80.6%。如何在昂贵的 agentic 后训练之前识别潜力?

方法:把成功后训练 Agent 轨迹当作 lookahead 信号。重放轨迹并在每步后跑测试,找到「决定性步骤」——首个让测试由失败翻转为通过的代码编辑动作。给基模型该步骤之前的上下文,构建三个探针:

结果:10 个基模型上,Decisive-Action BPB 追踪后训练 SWE-bench Verified 排名 ρ=0.964,跨基准同样成立(Multilingual ρ=0.976、Terminal-Bench 2.1 ρ=0.930),传统基准 HumanEval 预测力为负(ρ=-0.394)。结论:不必对每个基模型都做完整后训练筛选,潜力信号训练前已存在。

所属事件:NVIDIA 论文:后训练前即可预判基模型的编码 Agent 潜力(8 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →