云架构师解释:为何 $200 订阅能用掉价值 $10 万的 tokens
RexDouglass · x · 2026-11-22
有人引用开发者 Vlad Mihalcea 的困惑——他的 Claude Pro 年费 $200,却用了 160 亿 tokens,按量计费约值 $10 万——一位自称搭建过云基础设施的作者(@muvaff)解释了其中的经济学:
- 核心是基础设施利用率:token 成本主要取决于算力利用率,利用率越高、单个 token 成本越低。
- 利用率是把双刃剑:跑在 80% 利用率时成本极低甚至可以免费送,但一旦某客户发布新产品引发流量尖峰,基础设施会为所有人崩溃,还会流失最好的客户。
- 实验室的解法:用「限时/限速」的便宜 tokens 来控制廉价需求——只要不制造尖峰,这类用户对成本几乎无关紧要,所以即便 $200 订阅也能赚钱。
- KV cache 等 LLM 特有机制当然也在起作用,但硬件分配经济学与传统云服务器本质相似。
-他还给出一个实用建议:如果好奇某些算力供应商为何便宜,去问他们能提供怎样的并发保证。
「Infra」频道最新
- 数据显示今年做空 AI 概念 IPO 三日平均可赚约 37% — vaibhavbetter · 2026-11-22
- 全网已有多家推理 API 提供商,99% 是套壳 vLLM 打价格战 — vaibhavbetter · 2026-11-22
- 高通季度汽车芯片营收近20亿美元,SemiAnalysis预测2027年登顶 — BenBajarin · 2026-11-22
- Gavin Baker:2万亿美元AI资本开支仅换来约1200亿美元收入 — josh_bickett · 2026-11-22
- Inkling 2 Mini 在 RTX 5090 上用 vLLM 跑出 200 tok/s — VoidAsuka · 2026-11-22
- Reddit 网友乐观预言:廉价 GPU 回归只是时间问题 — ridhwanss · 2026-11-22