PyTorch 模型直上单片机：ExecuTorch Cortex-M 后端实测 RAM 不足 90KiB
PyTorch · x · 2026-10-24
PyTorch 与 Arm 联合发布 ExecuTorch Cortex-M 后端，让 PyTorch 模型无需再转换到其他框架格式即可直接部署到 Arm Cortex-M 微控制器上，并通过 Arm CMSIS-NN 加速，单一工作流覆盖 Scalar、DSP、MVE/Helium 全部能力档位。
关键数据：
- 在 Alif Ensemble E8（单核 Cortex-M55）上跑 MLPerf Tiny 五个模型中的四个，每个推理耗时 ≤21.5 ms、RAM 占用 <90 KiB
- 核心运行时 flash 占用 <20 KiB，且按算子选择性编译，代码体积随模型而非框架增长
- 对异构 SoC，可作为 CPU 执行路径与 Ethos-U NPU delegation 配合
此前在 MCU（<1 MB SRAM、毫瓦级功耗）上跑 ML 需要跨框架转换、维护独立工具链并调试数值不匹配，此方案消除了转换环节。
「Infra」频道最新
- 英伟达 8 节点 DGX Spark 集群转正：900M 训练扩展效率达 97.4% — TheZachMueller · 2026-10-24
- Linus 爆料：一台 Vera Rubin 机架至少要烧约 700 万美元 — LinusEkenstam · 2026-10-24
- 多伦多 PS5 Pro 全面断货，内存涨价潮波及消费硬件 — Rasmic · 2026-10-24
- 开源推理引擎 kapitsa：树形投机解码让 Mac 本地多 agent 吞吐提升 23% — DotaMate · 2026-10-24
- Zagitta 解锁补丁实测:中国版 3080 20GB prefill 快 20%,decode 持平 — No-Refrigerator-1672 · 2026-10-24
- Baseten 推 Project Beacon，把安全工具内置进开源模型推理层 — baseten · 2026-10-24