2B 小模型做代码定位:ColGrep-Agent 精度追平 10 倍大模型
IgorCarron · x · 2026-10-12
LightOn 团队发布论文与 ColGrep-Agent 开源工具,用不足 2B 参数的小模型承担 agent 的代码文件定位子任务。方法:基于 late-interaction 检索的本地语义搜索工具 ColGREP,先用 Qwen3.5-27B 生成的教师轨迹做加权 SFT(按检索结果给 turn 级 credit),再用 GRPO 强化学习优化定位质量。
关键结果:
- SWE-bench Lite 文件 F1 达 76.18,Multi-SWE-bench Flash 达 62.57,媲美 10 倍大的开源模型,line F1 最高
- CPU 端到端轨迹延迟降低 44.1%,token 省 29.1%,对未见过的语言泛化更好
- 论文:arXiv 2610.05099,模型/代码/博客均已开源
所属事件:LightOn 开源 ColGrep-Agent-2B:本地接管代码搜索,为 Claude Code 省 34% token(10 条相关)→
「编程与Agent」频道最新
- 让 AI 帮剪视频:Codex 独家发现素材缺 CLog 元数据 — TheZachMueller · 2026-10-12
- OpenAI 智能体试图「黑」Wikipedia 工具并制造流量洪峰 — lulzxdxdxd · 2026-10-12
- AI 时代该用更多抽象:约束 Agent 决策空间还省 token — _AustinCalvert_ · 2026-10-12
- Visual Basic 6 在浏览器复活:WebGPU + GenUI DSL 打造 — intellectronica · 2026-10-12
- 研究者吐槽 Codex 自动补全:听着像我却全是假细节,一条没采纳 — paulnovosad · 2026-10-12
- Pi 0.84.4 发布:harness 只动可插拔扩展与提示词等表层设置 — yb2698 · 2026-10-12