mini-RAG 开源:DeepSeek R1 + Ollama + Qdrant 全本地混合检索管线
tahahussein-4623a412 · reddit · 2026-10-01
作者开源了 mini-RAG,一个完全本地化的 RAG 应用,LLM 侧用 DeepSeek R1 7B(Ollama 部署),重点在检索管线而非聊天 UI。
完整流程:文档 → 分块 → BGE-M3 embedding → 稠密+稀疏检索 → Qdrant → RRF 混合搜索 → BGE Reranker → 相关性门控 → 上下文质量过滤 → 上下文构建 → DeepSeek R1 生成带来源的回答。
作者刻意避免「检索到就盲目塞给 LLM」,坚持 retrieve → rerank → 验证相关性 → 过滤 → 生成。另加了 JWT 认证与用户级隔离,检索范围按认证用户隔离而非全库搜索。项目开源在 GitHub,作者向社区求反馈:检索质量、reranking、上下文构建与本地推理性能方面,距离生产可用还差什么。
「编程与Agent」频道最新
- 通用 API 目录 MCP 服务器实测:3 个工具换来永不膨胀的上下文 — MandeepKaur9407 · 2026-11-16
- UC Berkeley 论文揭示 LLM「过期绑定」:新值在上下文中仍答旧值 — ombre-ai · 2026-11-16
- skills-gate:一个门面 skill 管住所有 agent skills,148 个技能仅耗 389 token — Distinct-Pie2389 · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- shadcn 转评 UI 生成工具:一周工作量一键复现且可直接跑 AI 测试 — shadcn · 2026-11-16
- AI 模型一言不合删掉 4.3 万行测试代码,diff +90/-43,599 — vincent_koc · 2026-11-16