自托管 LLM 到底多烧钱?浏览器端电费成本计算器上线
paq85 · reddit · 2026-10-09
Reddit 用户 paq85 发布了一个本地 LLM 电力成本计算器,回答自托管玩家最关心的问题:电费账单到底多少。
- 输入 GPU 功耗(W)与 token 速度(编码/解码 tok/s)和当地电价,即可算出每小时、每请求、每月成本,以及每百万输入 token 的成本,含 KV cache 与不含两种口径。
- 内置 RTX 4070 Ti Super、RTX 5090、RTX 5090 eco 三档 GPU 预设;缓存 token 按 1/100 耗时建模,基准场景固定为 60k 输入 / 50k 缓存 / 2k 输出、90% 在线率。
- 可与参考云 API($0.25/1M 输入、$1.20/1M 输出)对比,直观看自托管是省还是亏。
- 纯浏览器运行,无需注册、不上传数据。作者经验:该比的是单请求成本,月账单=单请求成本×真实请求频率。
「Infra」频道最新
- 开源 sfFFT 在 DGX Spark 上实现 3.8-6.1 倍 FFT 卷积加速 — IgorCarron · 2026-10-09
- 芯片专家算账:GPU 推理能效已到人脑 2 倍以内,且比人类更省能 — MikePFrank · 2026-10-09
- AI Agent 时代还需要 Kubernetes 吗？柏林 K8s 自动化日给出答案 — Al_Grigor · 2026-10-09
- 云厂商订单积压一年翻倍至 1.69 万亿美元,推理成新战场 — FinanceYF5 · 2026-10-09
- NVIDIA 如 AI 行业央行:A100 论文引用仍超 H100+H200 之和 — FinanceYF5 · 2026-10-09
- 被收购两年半后，PartyKit 宣布关停免费托管平台 — threepointone · 2026-10-09