DeepInfer 单集群日吐 155 万亿 token,算力吞吐约等于 OpenRouter 一周
AccBalanced · x · 2026-10-25
0xkydo 指出 DeepSeek V4.1 Flash 推理部署答疑披露的数字惊人:单个 DeepInfer 集群一天可产出与 OpenRouter 全周相当的 token 量——单集群日服务 155 万亿 token,整体收入 38 美元/GPU 小时(谷底价),约 2400 张 GPU。他从官方参数反推:每张 prefill GPU 每秒 6 万新鲜输入 token、每张 decode GPU 每秒 1.4 万输出 token、prefill/decode 约 1:1、平均输入长 7.7 万 token、96% 输入缓存命中率。由于仅 4% 输入需新鲜计算,每张 prefill GPU 实际服务 150 万输入 token/秒,性能假设在用户侧看也属合理。配图 OpenRouter 周用量榜显示 DeepSeek V4.1 Flash 周用量 32.8T 居首。
所属事件:DeepSeek 单集群日处理 150 万亿 token,超四大推理平台总和(4 条相关)→
「Infra」频道最新
- 「出租:GB300 全新未用」两句话恐怖故事调侃 GPU 租不出去 — sloppenheimer · 2026-10-25
- DeepSeek-V4.1-Flash EXL3-3bpw 量化版可在双卡 RTX PRO 6000 上运行 — No-Paper-557 · 2026-10-25
- 网友晒 8x3090 自组机:192GB VRAM + 256GB RAM 跑本地模型 — generativist · 2026-10-25
- 有人提醒:AI发展绕不开的终极约束是热力学定律 — AryHHAry · 2026-10-25
- KohakUnlock 解锁 RTX 20 系 FP32 限制:2080 Ti 算力提升 85% — CeFurkan · 2026-10-25
- 整理 18 组 ComfyUI 实测:GPU unlock 后 BF16 提速远超 INT8 — Acceptable_Put9983 · 2026-10-25