Docling 太重?PipesHub 自建解析路径,单页耗时砍半内存降 1GB
Effective-Ad2060 · reddit · 2026-10-29
开源 agent 上下文层 PipesHub 分享 PDF 解析优化复盘。背景:产品需在消费级笔记本到服务器上自托管,Docling 解析大 PDF 内存爆表、耗时过长,切分 PDF 也没解决。
新方案:以 pdfplumber 为主路径——先读 PDF 自带文本层、按规则处理布局,仅对需要的页面跑布局模型(仍复用 Docling 的 heron 模型)。第一版虽快但漏内容,财务表被当图片导致数字进不了索引,修复后才真正有效。
Benchmark 结果:
- 58 篇连续测试中,中位解析时间 0.98 → 0.48 秒/页
- 1,228 篇文档,P95 峰值 worker 内存 2.91 → 1.97 GB
- 丢失过半文本的页面比例 2.9% → 1.2%
权衡:Docling 在图表检测、表格结构和 caption 上仍更强;对以「自带文本层的 PDF」为主的负载,新方案是合算的取舍。完整复盘与代码均已公开。
「编程与Agent」频道最新
- 10 个开源仓库给编码 Agent 画代码地图:知识图谱+语义搜索 — victor_explore · 2026-10-29
- Snaptrude 发布建筑设计 Agent:可从地块做到施工级 LOD 400 模型 — EXM7777 · 2026-10-29
- DecisionRAG 用决策模型替代检索器,超越 8B reranker 13.8 个点 — omarsar0 · 2026-10-29
- 博主实测 Claude 驱动 Remotion:5 分钟把图表 Logo 变动画视频 — TawohAwa · 2026-10-29
- Meta Muse 生态上线 1Password for Agents,AI 智能体有了专属密码管理 — xeophon · 2026-10-29
- 用 Grok Bot 单人运营创作者广告中介,目标月入 2.5 万美元 — VibeMarketer_ · 2026-10-29