一份文档管道接三家 AI 厂商,Reddit 用户求解一站式自托管方案
Sad-Razzmatazz-7657 · reddit · 2026-09-16
一位在吴恩达旗下公司从事文档领域的工程师吐槽:同一文档流程要同时付 OpenAI(embedding)、Cohere(rerank)和 Textract(OCR)三份账单,数据三次离开自有云。他调研的自托管整合方案:
- 自行拼装:TEI + 独立 reranker + docling 做 OCR,可行但等于管理三个部署
- Infinity:一个服务覆盖 embedding 和 rerank,但不含 OCR
- SIE:唯一发现能把三者收进一个 API 的方案;Superlinked 给 docling 报价 $0.397/千页,对比托管服务 $1.50,但 OCR 质量数据未公布
作者认为比起成本,数据驻留(合同数据不能出私有云)才是决定性因素,并征询 OCR 部分的实战经验。
「Infra」频道最新
- Transformers 模型可直接在 vLLM 运行，无需移植转换 — pcuenq · 2026-09-16
- 台积电建 20 座厂仍追不上 AI 需求,劳动力短缺成瓶颈 — emmanuelvivier · 2026-09-16
- SemiAnalysis称Nvidia Vera Rubin NVL72智能体推理吞吐每兆瓦最高30倍于Blackwell — emmanuelvivier · 2026-09-16
- Cacheon矿工把MiniMax M3吞吐优化至2337.9 tok/s，据称可多赚61%利润 — JosephJacks_ · 2026-09-16
- 纳德拉举例：一座 400-500MW 数据中心让小镇税收涨 12 倍 — rohanpaul_ai · 2026-09-16
- OpenAI 发布系列文章：ChatGPT 如何做到每秒 7000 万次请求 — AxSaucedo · 2026-09-16