IBM 用 Inductor 替换自研编译栈,为 75W Spyre 推理加速器瘦身 7 倍
PyTorch · x · 2026-10-13
PyTorch 官方博客刊发 IBM 团队文章，介绍如何把 Spyre 加速器的 torch.compile 后端从自研的 sendnn 迁移到基于 PyTorch Inductor 的开源后端。
- Spyre 是 IBM 面向企业推理的数据流加速器：75W 功耗、PCIe 供电即插即用，32 个小核经环形总线互联，每核 2 MB 私有 scratchpad，无共享缓存，数据以 128 字节 "stick" 为单位搬运
- 大部分 Inductor 代码直接复用，改造集中在数据移动、内存管理与任务分发等与 GPU 假设根本不同的地方；编译器代码比替换前缩小约 7 倍
- 核心差异：GPU 由硬件缓存决定热点数据驻留，Spyre 没有 shared cache，「什么数据留在近处」必须由编译器决策，这也是扩展工作量最集中的低层代码生成部分
- 文章论证 Inductor 的可扩展性：接入全新非 GPU 架构时框架层面的 leverage 可量化
「Infra」频道最新
- 资金弃半导体转向云厂商与应用层,分析师预期轮动还将持续 — RihardJarc · 2026-10-13
- Intel 多代 CPU 涨价 15-20%,AMD 预计跟进推高算力成本 — TheZachMueller · 2026-10-13
- Mistral 模型上天：加入 50 颗卫星的 AI 星座，NVIDIA 提供算力 — MistralAI · 2026-10-13
- NVIDIA 617.42 驱动疑似坑惨 ComfyUI:三张 5060 Ti 全翻车,回滚 616.92 解决 — DoubleNothing · 2026-10-13
- a16z 图表：Agent 用量已远超人类，7 日均值 7.3 万亿 tokens、暴涨 14 倍 — dfinke · 2026-10-13
- 15 台山寨 Android TV 盒子拼出 Gemma4-26B 分布式推理,每台约 55 美元 — SporksInjected · 2026-10-13