Google 开源 TorchTPU:PyTorch 原生跑 TPU,训练 Qwen3 8B 达峰值算力 52%
rohanpaul_ai · x · 2026-10-21
在 PyTorch Conference 2026 上,Google 宣布开源 TorchTPU——原生 PyTorch on TPU 技术栈,与 Meta PyTorch 团队联合开发。TPU 由此成为与 GPU、CPU 并列的 PyTorch 原生选项。
- 以标准 PyTorch API 运行,支持 eager mode 逐步调试,再经 torch.compile 优化 TPU 利用率与内存开销
- 开箱支持 vLLM、SGLang、llm-d、TorchTitan、Ray、TorchRec、Hugging Face、LiteRT 等主流工具链
- 实测 TorchTPU 训练 Qwen 3 8B 可用到峰值 TPU 算力的 52%
- 替代此前经 PyTorch/XLA 编译器排队的路径,调试体验与 GPU 一致
此前 Google 与 Amazon 均已提供原生 PyTorch 后端,让代码摆脱对 Nvidia GPU 的绑定。Meta 表示已在生产环境的 LLM、广告与推荐系统工作负载上使用 TPU。
所属事件:Google 联手 Meta 开源 TorchTPU，PyTorch 原生支持 TPU(6 条相关)→
「Infra」频道最新
- GLM-5.3-Flash NVFP4 实测：2x H200 与 4x RTX Pro 6000 吞吐几乎打平 — TheZachMueller · 2026-10-21
- DeepSeek V4.1 Flash 推理部署拆解：Engram 减参 30% + WideEP 摊薄权重 — teortaxesTex · 2026-10-21
- llm-d 1.0 发布：多租户 QoS 与前缀缓存路由进入生产级推理 — _ScottCondron · 2026-10-21
- DeepInfer 算账:1GW GB200 按现价可做出 1000 亿美元年收入 — bookwormengr · 2026-10-21
- FastVideo 发布 FastH3 Omni 量化权重合集:FP8/NVFP4 适配 ComfyUI — multimodalart · 2026-10-21
- 低延迟语音模型该端侧常驻：Phonon 开源引发讨论 — timshi_ai · 2026-10-21