开源 OCR 成本 18 个月降 5 倍：千页从 $0.51 降至 $0.095

vanstriendaniel · x · 2026-11-13

作者用 agent 在 Hugging Face Jobs 的一块 GPU 上，对过去 18 个月的 8 个开源 OCR 模型跑了相同的 850 页文档，量化成本下降的来源。

关键发现

每 1000 页成本从 $0.51 降到 $0.095，八点连线大约每 10 个月减半；降幅大部分来自一个模型——LightOn 的 LightOnOCR-3-0.8B（便宜约 5 倍）。
运行方式本身也影响成本：GLM-OCR 在 250 页密集文档上，按 2 月的跑法是 $1.57/千页，现在只要 $0.40（大量页面并行、页面缩放至 2048px、更新版 vLLM、更大 GPU）。
用全尺寸扫描并不划算：三个模型上比 2048px 贵 1.3–4.2 倍，且准确率无提升。
在 282 页人工校验的书页上，每个模型的中位数页面都超过 99% 正确；两个较便宜模型的错误率约为最老模型的 1.5 倍。
在 1771 年印刷的密集双栏文本上，最老模型反而优于多数新模型，最新模型仅与其打平。

结论：仍值得在自己的文档上实测几个模型，全部 8 个模型跑 850 页只花约 $6 GPU 时间。作者将写完整博文。

「Infra」频道最新