Hugging Face 集成 TorchTPU:Transformers/Diffusers 原生跑 TPU
ariG23498 · x · 2026-10-27
Hugging Face 官宣与 TorchTPU 集成:借助这个原生 PyTorch 后端,TPU 成为"又一种设备"——从 Hub 选模型、to("tpu") 即可运行,Transformers、Diffusers 和 Kernels 原生支持 TPU。
- 背景:此前在 TPU 上跑 PyTorch 需迁移到 torchxla 或学 JAX;torchxla 的懒执行、图重编译和调试困难一直被诟病。
- 变化:TorchTPU 原生支持后,HF 此前的 Optimum TPU 适配层不再必需。
- TPU 是什么:Google 自研 AI 加速器,已有约十年设计历史,Gemini 等自研模型即用其训练与服务;Google Cloud 上从单芯片到数千芯片的 pod 均可租用。
对 PyTorch 用户来说,这是降低 TPU 使用门槛的实质性一步。
「编程与Agent」频道最新
- 7 小时冲上 GPU 内核挑战赛第 2:开源 Auto-research agent 实战 — sguada · 2026-10-27
- 「为什么这么写?因为 Codex 说的」:AI 代码审查的尴尬现场 — FlatStill2540 · 2026-10-27
- 把 AI Agent 落地到传统 IBM WMS:8 条踩坑经验,脚本与检查比模型选择更重要 — ksrijith · 2026-10-27
- 实测 365 个公共 MCP 服务器:过半工具输入缺描述 — abhiramreddykalluru · 2026-10-27
- 60 人公司每天跑 300 个 Agent,安全工程师逐一拆解翻车现场 — AI Engineer · 2026-10-27
- CoreWeave ARIA 智能体新增四种实时面板,可在聊天中交互查看 — _ScottCondron · 2026-10-27