单张 RTX 跑 LightOnOCR 0.8B,14483 页文档 OCR 仅花 1.67 美元
vanstriendaniel · x · 2026-11-11
作者用 LightOn 的 LightOnOCR-3-0.8B 模型在一张 RTX PRO 6000(通过 Hugging Face Jobs)配合 vLLM 对 14,483 页化石燃料行业文档做 OCR,稳定运行后约 7.7 页/秒,总成本仅 1.67 美元,折合约 0.12 美元/千页。作者针对 HF Jobs 调优了运行方案,并提供一条命令即可复现的脚本。
「Infra」频道最新
- Agent Arena 实测:任务越难 Gemini 4 Carbon 成本优势越大 — rseroter · 2026-11-11
- Chips and Cheese 深析 AMD Zen 6:分支误预测代价显著降低,整数调度回归 Zen 3/4 布局 — jedisct1 · 2026-11-11
- Together 研究负责人谈内核原理与 AI 优化自身推理的循环 — togethercompute · 2026-11-11
- PyTorch ExecuTorch 新增 WebGPU 后端:模型一次导出浏览器直跑 — PyTorch · 2026-11-11
- Hedra 让 AI Agent 跑训练实验，人类研究员只做引导 — testingcatalog · 2026-11-11
- Simular Box 发布：一个 MCP 链接给 Agent 配云端 Linux 桌面 — AdFluid9823 · 2026-11-11