Google 开源 TorchTPU：PyTorch 工作负载可少改动迁移至 TPU

mark_k · x · 2026-10-21

Google 与 Meta PyTorch 团队合作开发并开源了 TorchTPU，让现有 PyTorch 工作负载几乎无需改代码即可原生跑在 Google TPU 上，覆盖训练与推理，并集成 Hugging Face、vLLM、SGLang 等常用工具。RadixArk 表示其 SGLang 集成已在 Meta 大规模生产环境运行，同一套服务代码可跨 GPU 和 TPU，支持 prefix caching 与 speculative decoding。Meta PyTorch 工程总监直言动机：「我们不能被单一硬件架构束缚。」此举显著降低从 Nvidia GPU 迁移到 TPU 的成本。