谷歌开源 TorchTPU:PyTorch 原生跑 TPU,训练 Qwen3 达峰值算力 52%
rohanpaul_ai · x · 2026-10-21
谷歌在 PyTorch Conference 2026 上宣布开源 TorchTPU——一个 PyTorch 原生 TPU 后端,取代以往的 PyTorch/XLA 编译器排队方案,让 TPU 成为与 GPU/CPU 并列的 PyTorch 原生选项。
- 调试体验对齐 GPU:TorchTPU 逐操作按原样执行(eager mode),可像 GPU 那样逐步调试,生产环境再切换 torch.compile 获得性能。
- 性能:训练 Qwen3 8B 时最高用到 TPU 峰值算力的 52%。
- 生态兼容:支持 vLLM、SGLang、llm-d、TorchTitan、Ray、Hugging Face 等现有工具,提供自定义 ATen kernel、编译缓存与分布式训练(数据并行/张量并行),与 Meta PyTorch 团队共同开发。
至此谷歌和亚马逊都提供了让 PyTorch 代码脱离 NVIDIA GPU 的原生气路径,算力侧去 Nvidia 化又进一步。
所属事件:Google 联手 Meta 开源 TorchTPU,PyTorch 原生跑上 TPU(6 条相关)→
「Infra」频道最新
- VectorDash 用 Rust 重写:Windows 本地搜索+剪贴板+AI 助手合一 — andy2na · 2026-10-21
- SpaceX 财报会:算力扩建超预期,资本开支与债务成最大悬念 — JOBhakdi · 2026-10-21
- 企业 AI 数据供应链应从系统记录源头抓起,而非先选模型 — craigmullins · 2026-10-21
- 马斯克:SpaceX 每月新增 20 万 GPU,2027 年算力欲达 13GW — JOBhakdi · 2026-10-21
- SpaceX AI 业务超预期,Q3 净利 44 亿美元实现盈利 — TechCrunch AI · 2026-10-21
- Together AI 柏林 Open Haus:n8n、NVIDIA 工程师谈开源模型生产化 — togethercompute · 2026-10-21