谷歌联 Meta 开源 TorchTPU,8000 颗 TPU 验证训练效率最高 52%
智东西 · wechat · 2026-10-21
谷歌宣布与 Meta PyTorch 团队共同开发的原生 TPU 软件栈 TorchTPU 开源,开发者可用标准 PyTorch API、以较少代码改动将现有模型部署到谷歌 TPU 上,被视为对英伟达 GPU 主导地位的挑战。训练方案已在最多 8000 颗 Ironwood TPU 上验证,Qwen3-8B 训练实现最高 52% 的模型浮点运算利用率,并支持最多 8192 颗芯片近线性扩展。
生态接入方面:推理侧 vLLM、SGLang、llm-d 均获 TPU 后端;印度公司 Zenteiq.ai 基于 llm-d 的 GKE Inference Gateway 生成合成数据,推理吞吐提升超 4 倍,日生成 Token 数从 14.7 亿升至 59.7 亿。训练侧 TorchTitan 完成生产级集成,覆盖 Llama 3、Qwen3 系列、FLUX.1 等模型配方;VeRL、Ray 也加入 TPU 支持。端侧 LiteRT 加入 PyTorch 生态,LiteRT-Torch 可一次调用将 PyTorch 模型导出到 Android、iOS、Web 及物联网设备。HuggingFace Transformers v5 只需设置 devicemap="tpu" 即可部署到 TPU。
所属事件:谷歌联手 Meta 开源 TorchTPU，PyTorch 原生跑上 TPU(15 条相关)→
「Infra」频道最新
- pi 模型推理引擎 rec 两行代码即可在 M5 Max 本地运行 — _rockt · 2026-10-22
- 安全研究员警告:GitLab 漏洞严重,呼吁用户尽快打补丁 — basedjensen · 2026-10-22
- Meta 财报：营收 646.1 亿美元增 26%，2026 资本开支上调至 1350-1450 亿美元 — RihardJarc · 2026-10-22
- PyTorch 大会 Demo Theater 13 场演示:Wan 2.2 视频生成提速 53.6 倍 — PyTorch · 2026-10-22
- TorchTitan 大更新:支持 DeepSeek-V4 等 5D 并行,Muon 优化提速 79% — PyTorch · 2026-10-22
- JNTC 将 TGV 玻璃基板铜填充时间从一天缩至分钟,明年量产玻璃芯 — toptickcrypto · 2026-10-22