DeepSeek 单集群日服务 150T tokens，超四大推理平台总和
natolambert · x · 2026-10-24
Nathan Lambert 援引 DeepSeek 披露的数据：其在一个集群上每天服务 150T（万亿级）tokens，这一开源模型推理量超过 OpenRouter、Fireworks、Together 和 BaseTen 四家平台上的开源模型推理量之和。他还根据各公司报告重建了一份推理量对比估算。该数据说明 DeepSeek 在开源模型推理服务上的规模远超西方推理云厂商，是衡量开源推理生态格局的硬指标。
所属事件:DeepSeek单集群日处理150万亿token，超四大平台推理总和(3 条相关)→
「Infra」频道最新
- llama.cpp 新 PR 去掉 kq_mask 构建 QSA 选择,为 Qwen 省下数 GB 显存 — jacek2023 · 2026-10-24
- Chronos:给 agent 用的 Postgres 兼容数据库,违规写入自动拦截 — Antique-Willow-5841 · 2026-10-24
- Altman：OpenAI 押注「机器人造机器人」的自增强循环 — rohanpaul_ai · 2026-10-24
- 64GB 内存+RTX 3060 跑满血 DeepSeek-V4.1-Flash：7.4 tok/s、98.3% 一致率 — Muted_Context_1999 · 2026-10-24
- Cloudflare 推出 Origin Range Requests：R2 首字节 p99 延迟减半 — Cloudflare Blog · 2026-10-24
- 单张 5090 实测 7 款 Qwen3.8 推理引擎,Basalt 解码最快 — jesdga95 · 2026-10-24