10 户拼 $8000 本地 GPU 集群,回本要 3.3 年才追平 ChatGPT 订阅
Any-Blacksmith-2054 · reddit · 2026-10-30
一位 Reddit 用户认真算了「邻居凑钱共建共享本地 AI 主机」这笔账:
- 硬件成本:跑量化 70B 级模型的单卡机器约 $3–5k(二手 3090/4090 或双 24GB 卡);要同时服务多人需 2–4 张卡,实际约 $6–10k。
- 算账:$8k 主机由 10 户分摊,每户 $800,对比每户 $240/年的云订阅,回本期约 3.3 年——且假设电费和维护免费。24/7 运行功耗 300–600W,在欧洲电价下不可忽略;「凌晨两点机器挂了谁修」也是现实问题。
- 作者结论:纯金钱账并不划算,真正的价值在隐私(数据不出局域网)、无速率限制、可跑无审查/自定义模型,以及折腾的乐趣。对只想问菜谱的普通邻居来说完全不值。
他向社区提问:有没有人真做过共享本地 LLM?服务 5–10 并发用户的甜点配置是什么?欧洲电价会不会杀死这个想法?
「Infra」频道最新
- Ollama:全球企业团队正用其将工作流迁移至开源模型 — ollama · 2026-10-30
- Rogers 卫星漫游扩至日澳新,加拿大手机借 Starlink 通全球 — XFreeze · 2026-10-30
- AWS 布道师发现 macOS 更新回滚:已移除的 eMudhra 证书又回到系统信任库 — kingslyj · 2026-10-30
- NVIDIA 官方教程:最大化 Jetson 内存效率并降低成本 — NVIDIAAI · 2026-10-30
- 一条命令起服务:用 transformers serve 跑 NVIDIA Nemotron 3.5 转写模型 — yb2698 · 2026-10-30
- 录屏工具 Cap 自建 GPU 农场跑转写,速度最高提升 11 倍 — JosephJacks_ · 2026-10-30