Bespoke Labs 单仓库后训练 Inkling:SFT+GRPO 带来 57pp 提升
simonguozirui · x · 2026-09-04
Bespoke Labs(Alex Dimakis 团队)发布新研究:如何针对特定 GitHub 仓库对模型做后训练个性化,且不损失通用能力。
方法与结果:
- 以 Inkling 为基座,先用强教师模型产生的轨迹做监督微调(SFT),再在专门构建的仓库级环境上做强化学习(GRPO)
- SFT 在 held-out 的 fontTools 评测集上带来 52 个百分点的提升,叠加 RL 后总提升达 57pp
- 后训练后的模型在分布外也表现良好:Terminal-Bench 2.1 和 SWE-Bench 上同样有提升
- 关键结论:专业化不等于通用能力损失,且答对所需 token 更少
这项工作给出了一条把模型「私有化」到自家代码库的可复制路径。
所属事件:Bespoke Labs 用 SFT+GRPO 后训练模型成单一代码仓库专家(4 条相关)→
「编程与Agent」频道最新
- Every.to《Codex 是如何诞生的》公开采访原文供读者用 agent 核查 — every · 2026-10-21
- 让 Claude Code 独立执导 MV:6.5 小时、765M 输入 tokens 完成 — colinmcnamara · 2026-10-21
- 航空业的数据溯源思路:智能体如何在图结构数据上拼证据 — colinmcnamara · 2026-10-21
- 独立开发者用 YAML 流水线+Spot GPU+vLLM 把 AI 账单大幅砍掉 — cmm324 · 2026-10-21
- ML 大佬 Burkov 提醒:不逐项追问验收,编码 Agent 只会交出 80% 完成度 — burkov · 2026-10-21
- 微软 Self-HPO:编码智能体自己改写运行环境,成功率高涨 7 个百分点 — mark_k · 2026-10-21