一条 token 粗算认为 15T 日流量可能不到两座 SuperPod
teortaxesTex · x · 2026-08-04
一条关于 token 吞吐的粗算：15T/日到底意味着什么
这条帖子在算一笔 AI 基础设施账：如果某个系统真的达到每天 15 万亿“输出 tokens”，并且所有人都像作者设想的那样使用同一种 harness discipline，那么换算出来的规模会非常夸张——大约是每天 3.37 千万亿 tokens，月度接近1e17 量级，年化甚至更高。作者同时提醒，现实情况大概率会介于这个极端值和更低值之间。
回复里则指出，关键在于口径是否只是 tokens processed。按一个合理的 agentic harness 估算，200M Flash tokens（含 cache hits）约 $1，也就是 1B≈$5、15T processed tokens≈$7,500。如果真是这个口径，那就会“便宜得离谱”；因此更可能是统计了 output + cache miss 之类的更窄口径。
最后还提到，这种规模的流量或许不到两个 SuperPod 就能承载。
「Infra」频道最新
- Meta 的 GRACE 把广告生成解码延迟降了 11 倍 — _reachsumit · 2026-08-04
- SemiAnalysis：AWS 到 Meta 都转向模块化数据中心 — bookwormengr · 2026-08-04
- 讨论哪些模型供应商能稳定跑到 150+ tok/s — DanielLockyer · 2026-08-04
- 面壁智能开源 ForgeStencil，一周优化百个 HPC 应用 — 面壁智能 · 2026-08-04
- SGLang 创始人离开 xAI 后转向 RadixArk — hsu_byron · 2026-08-04
- 多智能体系统可能把笔记本内存和 CPU 吃满 — zephyr_z9 · 2026-08-04