LightOn 开源 2B 代码搜索 Agent:帮 Claude Code 省 40% API 成本
lmoroney · x · 2026-10-13
LightOn 发布开源模型 ColGrep-Agent-2B(约 2.5GB,本地运行),专门接管编码 agent 中最烧 token 的一环——找文件。它夹在 Claude Code 和代码仓库之间:用多向量语义代码搜索 ColGrep 定位、阅读有潜力的文件、跟踪引用,然后返回文件路径、行号范围和代码本身。
实测数据(13 个训练时未见过的仓库、52 个代码搜索问题):
- 相比 grep,委派给本地 agent 使 API token 减少 34%
- 缓存感知 API 成本降低 40%
- 准确率无统计学显著差异
原理:编码 agent 修 bug 前常要花好几轮 grep、开文件、追引用,每一步都走前沿模型且对话越来越长;把搜索外包给本地小模型可大幅削掉这部分开销。项目附带论文、GitHub、HF 模型和 GGUF,文章含完整的安装、建索引、接入编码 agent 教程。
所属事件:LightOn 开源 ColGrep-Agent-2B：本地小模型替 Claude Code 省 34% token(21 条相关)→
「编程与Agent」频道最新
- FactoryAI 推出 Environments：云端 agent 沙箱正式上线 — matanSF · 2026-10-13
- 研究者撰文谈 AI 代理时代如何做科研:提问与验证不能外包 — CatAstro_Piyush · 2026-10-13
- 「给我一个够好的 LLM 和测试套件」:阿基米德名言 AI 版走红 — maxleiter · 2026-10-13
- vibe coding 移植编程语言本身，类型检查提速 3 倍 — maxleiter · 2026-10-13
- Muse Wonder 高级工程师基准仅得 42%，落后 Sol 6.1 的 71% 近 30 个百分点 — danshipper · 2026-10-13
- Gemini CLI沙箱修复：trap包裹命令致per-command规则失效 — MauroDruwel · 2026-10-13