SemiAnalysis:TPUv7 推理性价比超 B200/B300 最高达 50%

SemiAnalysis 发布长文《The Iron(wood) Throne》,论述 Google TPU 正在推理侧正面挑战 NVIDIA 的 CUDA 护城河,指出 TPUv7 推理每美元性能最高超过 B200/B300 达 50%。SGLang 团队转发并确认正与 Google 合作,TPUv7 的推理性能已可比肩主流 GPU 方案,vLLM 官方生态也有所响应,显示 TPU 在推理工作负载上的竞争力正获业界认可。

2026-11-06 ~ 2026-11-06 · 2 条相关