开源本地版 NotebookLM:SurfSense 全文档问答与文档编辑 Agent
FurtiveMirth · reddit · 2026-10-23
开源项目 SurfSense(Apache-2.0)的维护者在 Reddit 征求设计反馈。这是一个跨 Windows/macOS/Linux 的本地优先桌面应用,提供带引用的文档问答,以及能写入/编辑 Word、PDF、PPT、Excel 的 Agent 模式。
技术架构
- 运行时:固定版本 llama.cpp 做本地文本,stable-diffusion.cpp 出图,audio.cpp 做播客语音与转写;Ollama、LM Studio、vLLM 等任何 OpenAI 兼容服务可作远程端点。
- 摄取:Docling 解析,扫描件/照片先 OCR(RapidOCR 或 Mac 上的 Apple Vision),bge-small 嵌入跑在 onnxruntime;检索为关键词+向量混合,引用在答案存储前就解析到 chunk id。
- 双引擎:问答是普通检索聊天;Agent 模式跑无 shell 的 opencode,由 SurfSense 经 MCP 提供搜索/文档/PDF 工具,每线程一个地址,所有模型调用都回流 SurfSense,本地与远程模型行为一致。
- 安全:远程 MCP 服务器经网关接入并需逐个授权;每个外呼都指明主机,未允许的主机直接拒绝,无遥测。
踩坑经验
- 保持 prompt 前缀稳定:llama-server 的 prompt 缓存只复用到第一个变化的 token。把播客每段指令从 sources 之前移到之后后,第 2-4 段从重读约 6200 token 降到每段只新增约 230 token。
- Agent 模式按技术门槛(工具调用 + ≥32K 上下文)放行模型,而不是按 benchmark 白名单。
作者特别想听对 per-thread MCP 工具与 out-of-process 文档脚本设计的批评。
「编程与Agent」频道最新
- Reddit 开发者求问：如何防止 Agent 提示词越改越退化 — SleepFlimsy6963 · 2026-10-23
- 接付费商单该用什么模型?Reddit 创作者晒 Claude Code+ComfyUI 工作流 — newaccount47 · 2026-10-23
- 社科学者批 AI 圈：把 Agent 开发当会自动变好的黑箱 — RexDouglass · 2026-10-23
- 网友 vibe coding 出 Tesla Roadster 小游戏，赶在 GTA VI 之前 — Jasonio · 2026-10-23
- Codex CLI 0.164.0 报 account/read 错误，重启 daemon 可解 — bytebot · 2026-10-23
- 同为原生 UI:Swift 版 80MB 仅限 Mac,Zig 版 10MB 三端通吃 — jedisct1 · 2026-10-23