研究者实测：家里攒 7 张 GPU 自建算力，不如直接付 Google API
RexDouglass · x · 2026-09-19
研究者 Rex Douglass 分享自家实验室的算力账：为处理数千万份纸质文档的 OCR，曾尝试在家中部署 7 张 GPU 自建推理，但散热与电费成本远超直接调用 Google API；对方也反馈尝试大量开源权重模型组合，都难以在 2000 万条案例规模上可行地跑出好效果。结论：规模一大，自建端侧算力几乎必然输给云 API。
所属事件:实测：家中自组 7 卡 GPU 跑 OCR 不如直接调 API(2 条相关)→
「Infra」频道最新
- Grimes? 不,是 Bezos:呼吁建核动力海上算力平台 — beffjezos · 2026-11-04
- SpecPilot 智能体自动优化投机解码：速度从 4.46× 提升至 10.87× — pmttyji · 2026-11-04
- NEURA 发布 Neuron AI,欧洲具身智能的真正考验在协同落地 — ingliguori · 2026-11-04
- S3 数据库并不慢：内存+NVMe 缓存摊薄成本，写延迟差距比想象小 — mgill25 · 2026-11-04
- 开源 gpu-unlock 项目让 GeForce AI 推理提速最高 2 倍 — paranoidray · 2026-11-04
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04