PyTorch 携手 Arm：模型可直部署 Cortex-M，运行时压缩至 20 KiB 内

PyTorch · x · 2026-10-15

PyTorch 宣布与 Arm 合作推出 ExecuTorch Cortex-M 后端，量化模型可直接 lowered 到 Arm 的 CMSIS-NN 内核，让可穿戴、工业传感器、家电等微控制器设备无需离开 PyTorch 生态即可部署。

技术关键在于 AOT（ahead-of-time）编译：由于目标硬件参数在编译期已知，算子选择、权重布局和内存规划都提前完成，使核心运行时压缩到 20 KiB flash 以内。流程为 PyTorch 模型 → torch.export → PT2E INT8 量化 → CortexMPassManager（消除冗余计算、qparam 折叠为 multiplier/shift、OIHW→OHWI 权重重排、算子映射到 cortexm 内核）→ 生成 model.pte 执行计划，运行时按需选择性链接算子，覆盖 Scalar/DSP/MVE 不同 ISA 层级。