本地算力经济账:每月电费 60 美元仅得慢速推理
Thin_Pollution8843 · reddit · 2026-08-19
基于 Threadripper 3975WX 和 4x V620 GPU 的本地推理实测显示,每日 6 小时推理耗电约 1.6-2.1 度,月电费约 55-60 美元。然而,Qwen3.8-27B 的推理速度较慢(1-1.3k prefill, 30ts)。作者对比认为,同等费用在 OpenRouter 或 ChatGPT 上可能获得更优性能和体验,除非有强隐私需求或自备太阳能。
「Infra」频道最新
- 中国建成全球最大单体 AI 园区,欲容纳百万 GPU — teortaxesTex · 2026-08-19
- 美银预言美数据中心三年需 68GW 电力,缺口达 38GW — tctjr · 2026-08-19
- MacBook 本地跑 AI 应用零边际成本,MLX 生态远未消亡 — cocktailpeanut · 2026-08-19
- 宾州州长签署行政令,实施全美最严AI数据中心标准 — TinfoilTricorn · 2026-08-19
- 开源 RL 框架 Miles v0.1 发布,简化大模型强化学习训练 — ying11231 · 2026-08-19
- 同文不同价:OpenAI 专家揭秘分词器差异如何致 API 账单差三成 — 新智元 · 2026-08-19