Mac Studio 搭建本地 RAG 系统：读写分离与 MCP 架构实战
Joules_Jokes_Leks · reddit · 2026-08-01
作者分享了一台 Mac Pro M2 Ultra (128GB) 上完全基于本地模型运行的企业 Wiki 读写系统架构。系统采用混合检索并使用 MCP 协议提供服务。
- 读取设计：使用 Qwen3-Embedding-4B 与 BM25 进行混合检索，通过 RRF 融合后使用 bge-reranker-v2-m3 重排。设定了严格的分数阈值，低于阈值则拒绝返回，避免产生垃圾回答。
- 写入设计：编排器将检索到的上下文喂给本地 Qwen3.6-27B 进行写作，模型只负责根据证据套用模板、引用来源并标记信息缺口，随后交由人工审核。低于阈值同样会拒绝生成，杜绝幻觉。
- 闭环机制：拒绝日志会转化为待办列表，提示需要补充的文档；每日增量同步保持索引更新，发布的草稿也会成为未来的检索源。
在一次隔夜测试中，系统成功处理了 106 个空白页面，生成了 105 个有据可查的草稿和 1 次正确拒绝，单页生成耗时约 3-5 分钟。
「编程与Agent」频道最新
- Replit 发布 Design 功能：提供模板与环境智能辅助编程 — amasad · 2026-08-01
- Y Combinator 开源内部多智能体框架 QM — ycombinator · 2026-08-01
- LOLM：混合 Transformer-SSM 架构开源智能体 — OGMYT · 2026-08-01
- MCP 多个官方 SDK 爆 RCE 漏洞，AVE 收录达 65 条 — SelectionBitter6821 · 2026-08-01
- Supabase 推出 AI 编程智能体基准测试，Paul Graham 高度看好 — lavanyaai · 2026-08-01
- Simon Willison 发布轻量级 LLM 评估工具 smevals — Simon Willison · 2026-08-01