Google 与 Meta 联手推出 TorchTPU,PyTorch 原生跑上 TPU
PyTorch · x · 2026-10-21
PyTorch 官方宣布,Google 与 Meta 合作推出开源项目 TorchTPU,为 Google TPU 提供原生、原则化的 PyTorch 后端。
- 对比旧方案:此前的 PyTorch/XLA 基于 Lazy Tensors,需要侵入式修改源码、编译延迟严重、不支持 eager 执行、分布式原语支持滞后;TorchAX 则是把 PyTorch 硬套进 JAX 的模式。TorchTPU 将 eager 执行作为第一优先级,现有 PyTorch 工作负载可开箱即用地迁移到 TPU。
- 核心能力:真正的 eager 执行与 torch.compile 后端;通过 vLLM 和 SGLang 实现快速推理;借助 TorchTitan 在 Llama 3 405B 与 Qwen 3 MoE 上实现近线性扩展训练。
该项目始于 2025 年年中,是 TPU 生态向 PyTorch 社区开放的重要一步。
所属事件:Google 联手 Meta 开源 TorchTPU(2 条相关)→
「Infra」频道最新
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- TorchTPU 实测演示：vLLM 与 SGLang 统一后端跑 TPU 服务 — Rob_Mulla · 2026-10-21
- Google 联合 Red Hat 发布 llm-d 1.0，K8s 原生分布式推理栈 — rseroter · 2026-10-21
- 开发者用 incus 容器给每个 Agent 独立工作区，解决 Mac 负载瓶颈 — kevinkern · 2026-10-21
- 黄仁勋指引明年营收增70%仍供不应求,一人唱衰韩云IPO难改算力荒 — firstadopter · 2026-10-21
- Pichai:所有人算力都严重短缺,谁都希望计划量翻倍 — firstadopter · 2026-10-21