TPU 每百万 token 成本对比 Blackwell,Google 占优
cgarciae88 · x · 2026-10-04
投资人SouthernValue95对比了 Google TPU 与 NVIDIA Blackwell 的每百万 token 推理成本,结论是 Google TPU 占优。作者认为随着 GCP 重点投入 TPU,第三方 TPU 生态的发展值得持续关注。
「Infra」频道最新
- 本地 LLM 评测乱象:tokens/s 单线程数据基本是噪音 — TheZachMueller · 2026-10-04
- Ahmad Osman 带 DGX Station 上直播:谈本地 AI 如何变得有竞争力 — basedjensen · 2026-10-04
- 三台本地机各构建 Miro 克隆五次,tokens/s 指标毫无意义 — julianharris · 2026-10-04
- 内存两年涨近 4 倍,跑 256k 上下文已买不起内存条 — lxfater · 2026-10-04
- 64GB 内存本地部署 Qwen3 千亿参数模型,192K 上下文体验良好 — lxfater · 2026-10-04
- 跑一次校准解码快 3 倍:16GB 显卡跑 256K 上下文的调优实录 — MoonsvnLyn · 2026-10-04