DeepSeek 单集群日处理 150 万亿 token,超四大平台开源推理总和
natolambert · x · 2026-10-24
Nat Lambert 引用各方公开数据重建了开源模型推理量对比:DeepSeek 宣称在单一集群上每日服务 150T token,超过 OpenRouter、Fireworks、Together、BaseTen 四家开源模型推理量之和。配图显示 Fireworks 与 Together 在 2026 年分别达到约 40T 和 30T token/日,OpenRouter 开源份额从 2025 年初的约 20B 增长到 10T+ 量级,指数级上升趋势明显。评论指出这还只是「一个集群」,DeepSeek 实际总规模不明。
所属事件:DeepSeek单集群日处理150万亿token，超四大平台推理总和(3 条相关)→
「Infra」频道最新
- llama.cpp 新 PR 去掉 kq_mask 构建 QSA 选择,为 Qwen 省下数 GB 显存 — jacek2023 · 2026-10-24
- Chronos:给 agent 用的 Postgres 兼容数据库,违规写入自动拦截 — Antique-Willow-5841 · 2026-10-24
- Altman：OpenAI 押注「机器人造机器人」的自增强循环 — rohanpaul_ai · 2026-10-24
- 64GB 内存+RTX 3060 跑满血 DeepSeek-V4.1-Flash：7.4 tok/s、98.3% 一致率 — Muted_Context_1999 · 2026-10-24
- Cloudflare 推出 Origin Range Requests：R2 首字节 p99 延迟减半 — Cloudflare Blog · 2026-10-24
- 腾讯世界模型 Hy-Nomas 最低要 RTX 4090:作者呼吁发布前先优化 — cocktailpeanut · 2026-10-24