turbopuffer 详解:RL 后训练 35B 小模型,代码搜索成本降百倍
ypatil125 · x · 2026-09-05
Applied Compute 与 turbopuffer 发布技术博客,展示如何让小型开源模型在大规模代码搜索上击败「文件系统 + grep」的前沿模型方案:
- 动机:前沿模型只用 ls/grep 做代码搜索在小语料上省事,但大语料下推理成本高、grep 调用慢。
- 训练环境:构建 RL 环境,后训练 Qwen3.6-35B-A3B 学习使用搜索工具;索引约 9,000 个真实开源 GitHub 仓库,覆盖多语言多类型。
- 任务设计:两类任务——narrow(在最多 1,000 个仓库语料中回答针对某一仓库的问题,测深度)与 open-ended(测广度),每个任务随机分配仓库子集。
- 结果:在 300 个仓库规模上比文件系统 + grep 快约 3 倍,搜索边际成本比前沿模型最多低 100 倍;在 needle-in-a-haystack 任务上登顶。
- 启示:小型开源模型开箱搜索能力弱,但经针对性 RL 后训练可低成本获得高质量搜索能力,配合专用索引在大语料场景优势明显。
所属事件:RL 后训练 35B 开源模型,代码搜索成本降百倍(2 条相关)→
「编程与Agent」频道最新
- Bolt 上线并行任务:一次派多个需求同时开工 — tristanbob · 2026-09-05
- 开源 Claude Code 入门课走红:15 个模块从首个项目讲到生产部署 — adnan_hashmi · 2026-09-05
- 开源Agent Substrate:让K8s智能体秒级挂起恢复、密度提升10倍 — davemccollough · 2026-09-05
- 在 Google Cloud Build 缓存 Docker 层,大幅提速 CI 流水线 — rseroter · 2026-09-05
- Alexandr Wang 官宣 Muse Spark 1.3 max 发布,编码与智能体能力显著增强 — alexandr_wang · 2026-09-05
- Alexandr Wang 官宣发布 Muse Spark 1.3 Max,编码与 Agent 能力显著提升 — alexandr_wang · 2026-09-05