PyTorch 的 Helion DSL 开始支持通过 Pallas 编写 TPU kernel
PyTorch · x · 2026-07-24
PyTorch 表示，面向自定义 kernel 的 DSL Helion 正在向 异构硬件 kernel 编写 扩展。
- Meta 和 Google 展示了 Helion 如何通过 Pallas 编译到 TPU。
- 目标是让开发者在 PyTorch 生态里，用一套统一方式编写性能更好的 TPU kernel。
- 文章用 FlashAttention 作为案例。
- 编译器会在多种代码生成策略之间 自动调优，并根据不同输入形状选择合适的 pipeline，以最大化计算与内存访问的重叠。
「Infra」频道最新
- AMD Ryzen AI Halo 主打本地 AI 开发，统一内存达 128GB — ryanshrout · 2026-07-24
- 有人想要一层可按需启停的本地模型 API — minaminotenmangu · 2026-07-24
- Baseten 联合 CapitalG 办 Demo Night，讨论自建推理栈 — baseten · 2026-07-24
- AMD 称 MI350P 在企业工作负载上可提升 2–5 倍性价比 — ryanshrout · 2026-07-24
- Databricks Genie 以 MCP 接入 LangGraph，并部署到 Azure ML — Cautious-Meringue554 · 2026-07-24
- 有人把 Hugging Face 搬到 NAS，本地加速模型传输到 AI 主机 — TyedalWaves · 2026-07-24