不会编程的用户用 Open WebUI 加终端容器搞定 500 页法典检索
Blindax · reddit · 2026-09-06
一位不做开发的用户分享了自己在本地搭建 AI 文档研究工作流的经历，用例是检索 500 多页的税法等大文档并生成笔记和 PPT。
- 架构：Unraid 上跑 Open WebUI，指向独立推理机（5060 Ti + 5070 Ti）的 API；先后试过 Hermes、LM Studio 均不满意，最终采用 Open WebUI 官方的 Open Terminal 容器——独立容器经 Integrations 接入，以非特权模式运行在 bridge 网络，模型在「盒子里」拿 shell 而非宿主机，安全可控。
- 效果：模型能分步推理，用「列目录 → grep → 只读关键段落」的方式可靠地从远超上下文窗口的大文档中定位内容，再据此生成文档。
- 配置与性能：Ollama 跑 Qwen 27B Q4KM，100k 上下文；约 35k token 提示词实测 prefill 约 1050 t/s、生成约 46 t/s，作者强调 prefill 速度才是啃大文档的关键指标。
「编程与Agent」频道最新
- Reddit 开发者求问：如何防止 Agent 提示词越改越退化 — SleepFlimsy6963 · 2026-10-23
- 接付费商单该用什么模型?Reddit 创作者晒 Claude Code+ComfyUI 工作流 — newaccount47 · 2026-10-23
- 社科学者批 AI 圈：把 Agent 开发当会自动变好的黑箱 — RexDouglass · 2026-10-23
- 网友 vibe coding 出 Tesla Roadster 小游戏，赶在 GTA VI 之前 — Jasonio · 2026-10-23
- Codex CLI 0.164.0 报 account/read 错误，重启 daemon 可解 — bytebot · 2026-10-23
- 同为原生 UI:Swift 版 80MB 仅限 Mac,Zig 版 10MB 三端通吃 — jedisct1 · 2026-10-23