PyTorch 2.15 重写 MPS 后端，Mac 上 MoE 解码最高快 6.5 倍
LysandreJik · x · 2026-10-20
Hugging Face PyTorch 团队将 MPS 后端的 MPSGraph 路径替换为原生 Metal kernel，带来 PyTorch 2.15 在 Apple Silicon 上的大幅提速：
- MoE 解码比 2.14 快 5-6.5 倍
- Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 提升到 61.3 tok/s
- LFM2.5-8B-A1B 从 23.6 提升到 123.6 tok/s
- 128k 词表上的 softmax 快约 8 倍
- MPS 新增 FP8 支持
- Wan2.2 VAE 解码的驱动内存峰值从约 270 GiB 降到约 8 GiB
作者强调这不是独立推理引擎，而是 PyTorch 本身在 Mac 上直接变快，2.16 还会更快。
所属事件:PyTorch 2.15 重写 MPS 后端，Mac 上 MoE 解码快 6.5 倍(2 条相关)→
「Infra」频道最新
- Victor Taelin 公开求购 8 卡 Rubin 整机，市面上有货却无人肯卖 — fforres · 2026-10-21
- Nscale 以铂金会员加入 PyTorch 基金会，此前宣布收购 Ray 母公司 Anyscale — PyTorch · 2026-10-21
- Decision Models 登陆 Antseed,开源自动路由按请求选模型与卖家 — airesearch12 · 2026-10-21
- Gradium 开源 Phonon：31M/40M 端侧 TTS 模型，推理栈支持 10+ 后端 — l-m-z · 2026-10-21
- LLM 代码审查拖慢节奏，PostgreSQL 19 延期至 11 月并回退多项功能 — sanjaykalra · 2026-10-21
- Eon 用 AgentCore Gateway 统一多云调查工具，新人接入从 2 天缩到 2 分钟 — AWS ML Blog · 2026-10-20