百万张解锁 3090 约合 14 万张 H100 算力:散布式推理的另类经济账

teortaxesTex · x · 2026-10-25

一条围绕「解锁(去限制)版 RTX 3090」的算力估算讨论，配图给出完整测算：

全球 3090 约 250–350 万张，其中 30–45% 在中国，扣除损耗后约 100 万张(误差范围大)。
解锁版 3090 的 dense BF16 算力约 142 TFLOPS,大致对标 NVIDIA 中国特供 H20 的矩阵算力(148 TFLOPS),而价格约为其十分之一；解锁还把算力带宽比从约 76 提升到约 150 math/byte,更接近数据中心卡的配比。
百万张合计约 140 exaFLOPS 峰值 BF16(原厂约 70),相当于约 14 万张 H100 的峰值算力；总内存带宽约 0.9 EB/s,约等于 28 万张 H100。
关键限制：算力分散在百万台机器上，每张仅 24 GB、缺乏高速互联、单卡约 350W,几乎无法用于前沿模型训练，但对「单卡可容纳的小模型、大量独立推理会话」这类带宽友好型推理负载非常有用。

作者 teortaxesTex 认为，若被逼到角落且有便宜电力，收购中国存量 3090 是个可行想法；另有讨论提到 Ada 架构可用 fp8 绕开限制，传闻主要涉及 5090。

「Infra」频道最新