算力账本:宣称日处理 100T token 需要约 58 万张 GPU?
teortaxesTex · x · 2026-08-21
作者对某平台「海量 token 处理量」的宣称做了算力经济账拆解。他指出在严肃的 agentic 场景中,输入+输出 token 通常只占总量不到 5%——他在 DeepSeek 平台观察到约 1% 的比例,日处理量达 5-10 亿 token,因此 1T「真实 token」只相当于一个小集群的量级。
他还估算:若 ZAI 以 DS-V4 速率运行 5.3 规模模型,约每 GPU 每秒 2K token(80 左右 tps),则日处理 100T token 需要约 58 万张 GPU——结论是对方的 token 统计口径很可能不是输出 token,或者数字本身存疑。
「Infra」频道最新
- 中港团队开源 Libra,智能体训练吞吐提升 3 倍 — jiqizhixin · 2026-08-21
- 开源 x402-cleanweb-agent:网页转 Markdown 省 80% Token — EstablishmentTough18 · 2026-08-21
- 预训练还有巨大优化空间,算力是唯一瓶颈 — zeeshanp_ · 2026-08-21
- 摩尔定律失效在即,非硅计算与新型架构将迎资本热潮 — MikePFrank · 2026-08-21
- 「不懂为什么要建数据中心,写快点内核不就行了」 — basedjensen · 2026-08-21
- 康奈尔新架构降低 36% 训练算力 — burkov · 2026-08-21