合规数据不出内网：一套全自托管 RAG 技术栈选型实录
Green-Topic-1024 · reddit · 2026-10-20
团队因合规要求文档不能离开自有基础设施，弃用 Textract、OpenAI embeddings、Cohere 等托管 API（明确表示不是因为成本），转向全自托管 OCR、embeddings 和 reranking。数周实测后的选型结论：
- docling：干净数字 PDF 表现扎实，遇到扫描件和手写体明显变差
- PaddleOCR-VL：擅长混乱的多语言版式，模型小到一张普通 GPU 就能跑
- TEI（Text Embeddings Inference）：embeddings 稳定可靠，但一个服务器只能跑一个模型
- Infinity：单进程同时做 embeddings 和 reranking，省掉一台机器
- SIE：OCR+embeddings+reranking 一个端点搞定，可通过 ID 换模型，开源且可在自有云内运行，但尚在 1.0 之前（作者声明关注该项目）
代价是失去托管服务的开箱即用能力：没有现成解析表格、没有置信度分数，整条流水线都要自己维护。作者认为数据驻留不可妥协时值得，纯为成本则不划算。
「编程与Agent」频道最新
- Bindu Reddy 实测:Argon 做数据分析 + Opus 出可视化,组合做仪表盘 — bindureddy · 2026-10-21
- DSPy 沙盒解释器 v0.6.0 发布：沙盒代码可直接导入宿主机模块 — dbreunig · 2026-10-21
- Neo4j GraphAcademy 推出 AI 代理，学员无需再配 OpenAI 密钥 — JeremyCMorgan · 2026-10-21
- 周末用 Claude Code 造三件套：自建基准、迷你 SaaS、AI 资产库 — EXM7777 · 2026-10-21
- vLLM Mac 端新增睡眠模式：空闲时归还 KV cache 内存 — abhijithneil · 2026-10-21
- Diagram Design 开源:提示词生成 27 种编辑级技术架构图 — bibryam · 2026-10-21