本地跑模型到底花多少电费?开发者给 harness 加了成本计算器
giveen · reddit · 2026-09-15
一位本地部署用户给自己的推理 harness 加了成本计算器:输入当地电价,仅在引擎日志运行时才激活追踪,从而精确统计本地跑模型的真实电力成本,与云端 API 价格形成直观对比。这个思路回答了"本地到底省不省钱"的常见疑问——只看 token 价格不够,电费才是本地推理的隐藏变量。
「Infra」频道最新
- 史上最大芯片支出潮在即，恐慌抛售 AI 芯片股是误判？ — firstadopter · 2026-09-15
- 矿卡 CMP 170HX 刷 64GB 显存、1.49TB/s 带宽,改装实测启动 — _Boffin_ · 2026-09-15
- NVIDIA 四张 B200 跑 Nemotron 3 Ultra，优化后并发用户提升 2.5 倍 — NVIDIAAI · 2026-09-15
- Hugging Face 团队梳理:哪些开源 LLM 最适合端侧推理 — NielsRogge · 2026-09-15
- 纯 C99 单引擎同时跑 BitNet 与 GGUF,Xeon 上 36 tok/s — shifu_legend · 2026-09-15
- 开发者求助：用 ChatGPT 订阅 OAuth 顶替 API 做生产应用可行吗 — builtforoutput · 2026-09-15