turbopuffer 详解:RL 后训练 35B 小模型,代码搜索成本降百倍
ypatil125 · x · 2026-09-05
Applied Compute 与 turbopuffer 发布技术博客,展示如何让小型开源模型在大规模代码搜索上击败「文件系统 + grep」的前沿模型方案:
- 动机:前沿模型只用 ls/grep 做代码搜索在小语料上省事,但大语料下推理成本高、grep 调用慢。
- 训练环境:构建 RL 环境,后训练 Qwen3.6-35B-A3B 学习使用搜索工具;索引约 9,000 个真实开源 GitHub 仓库,覆盖多语言多类型。
- 任务设计:两类任务——narrow(在最多 1,000 个仓库语料中回答针对某一仓库的问题,测深度)与 open-ended(测广度),每个任务随机分配仓库子集。
- 结果:在 300 个仓库规模上比文件系统 + grep 快约 3 倍,搜索边际成本比前沿模型最多低 100 倍;在 needle-in-a-haystack 任务上登顶。
- 启示:小型开源模型开箱搜索能力弱,但经针对性 RL 后训练可低成本获得高质量搜索能力,配合专用索引在大语料场景优势明显。
所属事件:RL 后训练 35B 开源模型,代码搜索成本降百倍(2 条相关)→
「编程与Agent」频道最新
- MCP 平台 NitroStack 登顶 Product Hunt 每日第一,聚焦留存与开发者访谈 — EstablishmentFun4373 · 2026-10-21
- CodeRabbit 团队周发 5000 个 PR:机器造机器,招人先看策略游戏时长 — omojumiller · 2026-10-21
- LukeW 总结智能体软件五大 UI 难题:多智能体监控与协作设计 — LukeW · 2026-10-21
- 用 Claude Code 经 ADB 清理安卓电视:删 11 个应用、可用内存涨 90% — edwinarbus · 2026-10-21
- 小米电视被广告件拖到卡顿,开发者用 Claude 一键救回流畅 — edwinarbus · 2026-10-21
- 开源新模型 Ornith-1.5-122B 发布:SWE-bench 84.5%,单卡 DGX 可跑 — _akhaliq · 2026-10-21