DeepSeek 单集群日服务 150T tokens,超 OpenRouter 等四家开源推理商总和
natolambert · x · 2026-10-24
natolambert 整理的推理量推算显示,DeepSeek 在单一集群上每天服务约 150 万亿 tokens,超过 OpenRouter、Fireworks、Together 和 BaseTen 四家托管开源模型推理量之和。原文引述称该集群'目前日服务 155T tokens,整体收入为每 GPU 小时 38 美元(按谷时定价)',natolambert 补充说明这句话有歧义,可能指集群容量而非实际 token 吞吐量。帖中附有各家推理量的重建对比图。
所属事件:DeepSeek单集群日处理150万亿token,超四大平台推理总和(3 条相关)→
「Infra」频道最新
- RTX 3070 本地跑 Qwen3.8 量化版:1000 tps 预填充完整配置公开 — SetNo7692 · 2026-10-24
- OpenAI 暂停 11 天后恢复前沿 RL 训练,称隔离加固已足够 — scaling01 · 2026-10-24
- Cloudflare 用自研 CPU profiler 让 Workers 可观测性开销降 50% — irvinebroque · 2026-10-24
- 英伟达 8 节点 DGX Spark 集群转正:900M 训练扩展效率达 97.4% — TheZachMueller · 2026-10-24
- Linus 爆料:一台 Vera Rubin 机架至少要烧约 700 万美元 — LinusEkenstam · 2026-10-24
- 单卡 RTX 6000 跑 DSF4.1 达 280 tok/s,社区追问如何冲上 500 — capetorch · 2026-10-24