单一集群日吐 155 万亿 token,Neocloud 每卡每小时收入达 38 美元
basedjensen · x · 2026-10-21
basedjensen 引用数据称，当前单一集群的推理服务吞吐量达 155 万亿 token/天，整体收入约 每卡每小时 38 美元（按谷时价格计算）。他的感叹是：neocloud（新兴 GPU 云）的盈利能力已经变得惊人地高。
这个数字对理解当前推理算力的单位经济模型（token 收入 vs 卡时成本）是重要参照。
「Infra」频道最新
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- TorchTPU 实测演示：vLLM 与 SGLang 统一后端跑 TPU 服务 — Rob_Mulla · 2026-10-21
- Google 联合 Red Hat 发布 llm-d 1.0，K8s 原生分布式推理栈 — rseroter · 2026-10-21
- acs infra 上线免费 base model API，开放 Llama 3.1 8B/405B 供研究者使用 — amplifiedamp · 2026-10-21
- 开发者用 incus 容器给每个 Agent 独立工作区，解决 Mac 负载瓶颈 — kevinkern · 2026-10-21
- 黄仁勋指引明年营收增70%仍供不应求,一人唱衰韩云IPO难改算力荒 — firstadopter · 2026-10-21