DeepSeek 日耗 155T token 反推:全球推理 token 消耗可能远超想象
teortaxesTex · x · 2026-10-29
teortaxesTex 晒出自己的账单:在一个逆向工程小任务上用 DeepSeek v4.1-flash 跑了约 20 亿 token(标注为「10 亿 token 级」任务),仅花 6.08 美元(缓存命中 578M token,节省约 170 美元/98%),且这是峰值价格。他估计像他这样的重度用户不到 500 人,加起来就是「万亿」级 token。
核心算账:DeepSeek 官方称日处理 155 万亿(155T)token,只用约 2600 张 GB200。按每张 GPU 每天处理约 16 万亿 token(每万亿 token 约 16 卡)推算,各家旗舰模型的总 token 消耗量可能极其惊人——「一万亿其实是个很小的数字」。这条推文实际是在论证:真实推理负载规模远超外界按支出倒推的估计。
所属事件:OpenRouter 巨量 token 流量被指夸大算力需求,缓存命中占大头(4 条相关)→
「Infra」频道最新
- PGlite 周下载量突破 3000 万,浏览器内 Postgres 持续走红 — matei_zaharia · 2026-10-29
- Prime Inference 上线 OpenRouter 一个月,日处理 token 从 0 冲到 1200 亿 — xeophon · 2026-10-29
- 上交大 TAO 调度框架:工具感知使 Agent 服务延迟最多降 26.8% — AIOR-Research · 2026-10-29
- Nscale 冲击 300 亿美元估值 IPO,CEO 经验尚浅临危上阵 — bloomberg · 2026-10-29
- 单张 RTX 5080 跑 Qwen3.8 Flash Next:IQ3_S 量化峰值 275 tok/s — yehyakar · 2026-10-29
- 谷歌云 CEO:苹果在最新 TPU 上扩展基础模型预训练 — shayan_ · 2026-10-29