Google TPUv7 首次参测:每美元性能达 GB300 NVL72 的 1.67 倍
scaling01 · x · 2026-10-15
SemiAnalysis 宣布，Google 首次向其 Agentic Inference Benchmark（InferenceX）提交了 TPUv7 FP8 配合 vLLM 的测试结果，在 Qwen3.5 397B 的智能体推理场景下，每美元 Token 产出比 GB300 NVL72 FP4 高出 1.67 倍，对 B300 FP4 达 1.46 倍、对 GB200 NVL72 FP4 达 1.92 倍。配图显示 TPUv7 单芯片 TCO 约 $1.03/小时，远低于 GB300 的 $2.31，在高交互性（P90 约 400-500 tok/s/用户）区间成本优势最大。作者指出 Google 正加速将 TPU 能力对外开放，这一结果对英伟达的推理市场主导地位是直接挑战。
所属事件:SemiAnalysis 评测：Google TPUv7 每美元性能达 GB300 的 1.67 倍(2 条相关)→
「Infra」频道最新
- ASML 上调 2026 销售预期至 450 亿欧元,但警告 EUV 设备短缺将持续到 2028 — CurieuxExplorer · 2026-10-15
- NVIDIA 将亮相 SIGGRAPH Asia 2026，聚焦神经渲染与机器人 — tomaszbednarz · 2026-10-15
- 鸡舍里的 256GB 显存怪兽：网友用 4 张 CMP 170HX 自建本地 AI PC — sevendaysworth · 2026-10-15
- 微软 MAI-Image-2.6 上架 Vercel AI Gateway，一个 Key 调两档模型 — lmoroney · 2026-10-15
- Inworld 开放推理服务:月处理数十万亿 token,按请求设定优先级 — thetripathi58 · 2026-10-15
- 16GB 内存何时能本地跑平 Opus?聊聊端侧 LLM 的现实距离 — bit_freak · 2026-10-15