60美元训练模型跑通SWE-bench,性能比肩Claude 2
StanfordAILab · x · 2026-08-14
开发者基于 Karpathy 的 nanochat 项目进行了 SWE-bench 速度挑战,实现了极低成本训练出高性能编程模型。
实验结果:
- $60 算力:在 SWE-bench 上达到 5.0% 的 pass@1 成绩,相当于 2023 年的 SOTA 模型 Claude 2。
- $1000 算力:达到 11.0% 的 pass@1 成绩,超越了 Claude 3 Haiku。
该实验从随机初始化的模型权重开始训练,证明了通过优化训练流程,可以用极低的算力成本复现甚至超越早期前沿模型的编程能力。
所属事件:极低成本训练模型跑通SWE-bench,性能比肩Claude 2(2 条相关)→
「研究」频道最新
- SWE-Duel:让编码 agent 互相出题埋 bug 的抗污染竞技场 — Consistent_Fox_2990 · 2026-10-16
- 实测:去掉上下文条件化后,图像条件在视频生成中反而更强 — pixlpa · 2026-10-16
- 研究者吐槽:不少论文改动一堆,基线连行为克隆都不如 — retr0jirachi · 2026-10-16
- FrankenSim 用物理建模造虚拟管弦乐团,钢琴和鼓 demo 已上线 — doodlestein · 2026-10-16
- FoveaVLA 用学习式注视动作替代腕部相机,成功率升至 70.8% — Haoyu_Xiong_ · 2026-10-16
- ApolloPFN:原生融合外生变量的零样本时间序列预测网络 — burkov · 2026-10-16