开源 QMD 用本地语义搜索为编码 Agent 省 55% Token
ievkz · reddit · 2026-11-16
作者观察到编码 Agent 在执行任务前先用 find、rg --files、glob 定位文件,再用 rg/grep 搜内容,消耗大量 Token,于是尝试用本地 GPU 做语义搜索替代,实测最多可省 55% Token。
核心方案是开源项目 QMD(Query Markup Documents),命令行工具,支持三种搜索模式:关键词搜索、语义搜索和混合+重排(质量最好)。混合模式依赖三个本地小模型:
- embeddinggemma-300M:索引时计算语义向量(约 300MB)
- qwen3-reranker-0.6b:对结果与查询做语义重排(约 640MB)
- qmd-query-expansion-1.7B:从原始查询生成多个扩展查询(约 1.1GB)
使用流程:qmd collection add 添加源文件(可把示例丢给编码 Agent 让它自己决定索引范围),qmd update && qmd embed 建索引,再在 AGENTS.md 写入工具选择规则:已知路径直接读文件;已知标识符/报错用 rg/LSP;只知道行为时用 qmd query。
配套规则强调:QMD 取代的是最初的大范围搜索而非新增步骤;查询用具体英文技术术语;先只读最相关 3-5 个文件的相关段落;找不到再精化查询或把 -n 提到 60,最后才回退 rg/LSP。
所属事件:开源工具 QMD 借本地语义搜索为编码 Agent 省 55% Token(3 条相关)→
「编程与Agent」频道最新
- 研究图表显示上下文学习已足够支撑显著持续学习,Agent 第三月表现大幅提升 — xennygrimmato_ · 2026-11-16
- 开发者用 Claude+Codex 双模型流水线,日更产品坐拥 35k 用户 — cneuralnetwork · 2026-11-16
- 开源 QMD 用本地语义搜索为编码 Agent 省 55% Token — ievkz · 2026-11-16
- AGNTCon Kids Day:9-18 岁孩子用开源 AI 让机器人唱歌跳舞 — steveonjava · 2026-11-16
- Anthropic Academy 推出 13 门免费 Claude 课程,全部附结业证书 — nikola_mr64990 · 2026-11-16
- 苹果 Xcode 27.3 beta 引入 GitHub Copilot,开发者可在应用内测试 Siri AI — iamfakhrealam · 2026-11-16