IBM 将 Spyre AI 加速器接入 PyTorch,借原生设备抽象实现一套框架多硬件
PyTorch · x · 2026-10-08
PyTorch 基金会博客刊文,IBM Spyre 团队详解如何把 Spyre 数据流 AI 加速器做成 PyTorch 原生设备。
- Spyre 是 IBM 面向推理的数据流 AI 加速器,配合 IBM Z、LinuxONE 和 Power 系统运行,主打企业级低精度矩阵计算。
- 通过 torch-spyre 复用 PyTorch 现有抽象:PrivateUse1 赋予 spyre 真实设备身份,张量可常驻 device="spyre",stream 提供熟悉的顺序语义,runtime events 跨 stream 协调依赖。
- FX graph 保留在 Inductor 编译路径中;编译产物以类型化操作的有序队列启动,统一 eager 与编译执行路径,降低启动开销。
- 结论:无需为每类硬件单独维护框架,PyTorch 生态可覆盖更广的硬件。
「Infra」频道最新
- 开源训练实录:EDA 优于 GDN-2,连续 7 次主机故障自动切换专家 — jon_durbin · 2026-10-08
- 内蒙古乌兰察布已建/规划 89 座数据中心，中国掀起 AI 算力竞赛 — pstAsiatech · 2026-10-08
- 高可用不等于没宕过机：可用性的本质是故障时的韧性设计 — Franc0Fernand0 · 2026-10-08
- 4x RTX PRO 6000 私有 AI 工作站交付,起价 2.6 万美元主打数据不出门 — dee_hw · 2026-10-08
- audio.cpp 大更新：Higgs Audio TTS 显存省 48%，支持 110+ 音频模型 — Acceptable-Cycle4645 · 2026-10-08
- 南亚 7 月营收环比涨 49.3%:合约到期重签成涨价主因 — tengyanAI · 2026-10-08