14克Orange Pi Zero手写NPU内核实现60ms深度推理
开发者 yacineMTB 在 Orange Pi Zero 3W 上完成立体深度推理：板卡仅重 14 克，PCB 尺寸 30mm×65mm，约相当于三个四分之一美元硬币大小，推理延迟控制在 60ms 以内。关键在于他为板载 NPU 手写自定义内核，从而摆脱了对 4090 等高端 GPU 的依赖。次日他继续优化，将深度估计平均帧率推高至 27.8 FPS，证明超低成本、超轻量边缘设备具备机载视觉推理潜力。
已确认
- 硬件为 Orange Pi Zero 3W，重 14 克，PCB 尺寸 30mm×65mm，约相当于三个四分之一美元硬币大小（据 @yacineMTB 描述）。
- 通过手动编写 NPU 内核，实现亚 60 毫秒的立体深度推理，无需依赖 4090 等高端 GPU。
- 8 月 29 日，作者将深度估计平均帧率推高至 27.8 FPS，并表示这一结果令人难以置信。
- 作者称其控制策略通常运行在 7Hz 到 14Hz 之间，27.8 FPS 意味着性能余量极其充裕。
- @WilliamF 转述该方案时提到板卡价格约 30 美元，可用于理解成本定位（此为转述信息）。
为什么重要
- 手写 NPU 内核的做法表明，小型低功耗设备的板载 NPU 算力仍有较大挖掘空间，深度推理等视觉任务不必依赖云端或高端 GPU。
- 27.8 FPS 相对 7–14Hz 的控制需求留出约一倍以上余量，意味着这类 14 克级板卡有望承担机载实时深度感知等对重量与功耗敏感的任务。
2026-08-28 ~ 2026-08-30 · 7 条相关
一手来源
- 14g 开发板实现亚 60ms 立体深度推理 — yacineMTB ·
- 树莓派 Zero 实现 27.8 FPS 深度处理 — yacineMTB ·
- 极限优化：树莓派 Zero 刷新深度估计帧率纪录 — yacineMTB ·
- 【源头】14g 开发板实现亚 60ms 立体深度推理 — yacineMTB · 2026-08-28
- 30美元板卡跑通亚60ms深度推理，手写NPU内核实战 — _William_F_ · 2026-08-28
- 【源头】极限优化：树莓派 Zero 刷新深度估计帧率纪录 — yacineMTB · 2026-08-29
- 【源头】树莓派 Zero 实现 27.8 FPS 深度处理 — yacineMTB · 2026-08-29
另有 3 条近重复转述:yacineMTB · ReedSealFoss · _jmwebb