Google 与 Meta 发布 TorchTPU:PyTorch 模型改一行代码即可跑 TPU
lmoroney · x · 2026-10-21
在 PyTorch Conference 上,Google 与 Meta 发布了开源项目 TorchTPU——一个面向 TPU 的 PyTorch 后端,项目于 2025 年年中在 Google 启动。目标是把移植成本降到最低:只需把 .to("cuda") 改成 .to("tpu")。要点:
- 支持 eager mode 与 torch.compile
- 覆盖约 450 个 ATen 算子
- 团队称已在下载量最高的 5000 个 Hugging Face 模型上验证开箱即用
- 兼容 vLLM、SGLang、TorchTitan 和 Ray
官方博客也坦承:要达到 TPU 峰值性能,可能仍需调整张量 shape 和 sharding。作者建议:有 TPU 权限的话,把已在 GPU 训练的模型改那一行代码,先跑常规 eval 对比 GPU 结果,再做任何调优。
所属事件:谷歌联手 Meta 开源 TorchTPU,PyTorch 原生跑上 TPU(15 条相关)→
「Infra」频道最新
- pi 模型推理引擎 rec 两行代码即可在 M5 Max 本地运行 — _rockt · 2026-10-22
- 安全研究员警告:GitLab 漏洞严重,呼吁用户尽快打补丁 — basedjensen · 2026-10-22
- Meta 财报:营收 646.1 亿美元增 26%,2026 资本开支上调至 1350-1450 亿美元 — RihardJarc · 2026-10-22
- PyTorch 大会 Demo Theater 13 场演示:Wan 2.2 视频生成提速 53.6 倍 — PyTorch · 2026-10-22
- TorchTitan 大更新:支持 DeepSeek-V4 等 5D 并行,Muon 优化提速 79% — PyTorch · 2026-10-22
- JNTC 将 TGV 玻璃基板铜填充时间从一天缩至分钟,明年量产玻璃芯 — toptickcrypto · 2026-10-22