自托管 LLM 未必更省钱：缓存费率才是盈亏平衡关键变量
paq85 · reddit · 2026-10-17
Reddit 用户 paq85 发布了一个浏览器端 LLM 成本计算器（appdoesit.com，无需注册、数据不上传），用来算清本地自托管与云 API 的成本交叉点。
- 本地侧：按电价（kWh）×功耗×时长计算，内置 3 个 GPU 预设——RTX 4070 Ti Super（500W，1000/50 tok/s）、RTX 5090（900W，2500/120 tok/s）、5090 eco 模式（650W，2000/100 tok/s）
- 云端侧：输入、输出与缓存 token 按参考费率计价（$0.25 / $1.20 / $0.02 每 1M）
- 关键结论：对结果影响最大的是 cached-input 费率，多数计算器只是猜这个数；不同厂商缓存前缀重读价格差异巨大，交叉点取决于供应商的缓存账单而非标价
- 在 60k 输入 / 50k 输出 / 2k 请求的场景下，电费侧几乎持平而 API 费用持续攀升，长且重复的 prompt 会把盈亏平衡点推得比多数人预期的更远
「编程与Agent」频道最新
- shadcn 感叹 Anthropic 内部模型进展惊人,求早期访问权限 — shadcn · 2026-10-17
- Perplexity 自研 pplx-decider 零重排监督训练，附内部评测 prompt — bo_wangbo · 2026-10-17
- 实测 Anthropic code-review skill:Opus 5.5 多修 5.5 个 bug 且成本反降 — PawelHuryn · 2026-10-17
- 2026 年已有超 2 万个 agent harness,单个 2 天冲到 9.5 万 — jasonkneen · 2026-10-17
- 语音 AI 产品负责人长文:Jev 类分类器模型在电话机器人里的真实定位 — VladimirSamukov · 2026-10-17
- AI 推理账单降 95%:Featherless AI 四步削减大规模 token 成本 — AI Engineer · 2026-10-17