IBM Spyre 弃自研编译栈转向 Inductor,代码量缩小约 7 倍
lmoroney · x · 2026-10-14
IBM 在 PyTorch 博客发布案例：为 Spyre 推理加速器服务的 torch-spyre 将 torch.compile 后端从自研的 sendnn 编译栈（约 27.3 万行代码）迁移到基于 PyTorch 开源 Inductor 扩展的 backend=inductor（约 3.86 万行 Python），代码量缩小约 7 倍。
- Spyre 硬件：75 瓦 PCIe 推理加速器，无需定制供电与散热，主打能效；数据流架构，含 32 个小核心经环形总线互连，各配 2 MB 本地 scratchpad，以 128 字节（fp16 下 64 个值）的 "stick" 为单位搬运数据。
- 迁移经验：Inductor 大部分直接可用，但并非即插即用——主要工作集中在少数 Spyre 数据流设计与 GPU 假设根本不同的地方，需在 Inductor 低层和代码生成环节做大量 out-of-tree 扩展。
- 结论：Inductor 被证明是适配非 GPU 形态加速器的合适底座。
所属事件:IBM 为 Spyre 推理加速器弃自研编译栈改用 Inductor(2 条相关)→
「Infra」频道最新
- Qdrant 实测 Perplexity 新嵌入模型：向量缩小 21 倍仍保留 99.9% 检索质量 — qdrant_engine · 2026-10-14
- ReplaySSM 缓存输入代替状态写入，已进入 GLM-5.3-Flash 与 Kimi-K3 生产环境 — SonglinYang4 · 2026-10-14
- AA-AgentPerf 榜单新增 DeepSeek V4.1 Flash，GB300 每兆瓦吞吐达 2.61 亿 tokens/s — ArtificialAnlys · 2026-10-14
- AA-AgentPerf 上线实时查询页，可按硬件与模型筛选智能体推理性能 — ArtificialAnlys · 2026-10-14
- 全球数据中心公司为满足 AI 需求纷纷举债筹集资本 — davidyin44 · 2026-10-14
- 破解 ECDSA 挑战赛新纪录:893 量子比特比谷歌 3 月最佳省 25% 资源 — jedisct1 · 2026-10-14