14g 开发板实现亚 60ms 立体深度推理
yacineMTB · x · 2026-08-28
开发者展示了在 Orange Pi Zero 3W（仅 14 克重，30mm x 65mm PCB）上完成的立体深度推理，延迟控制在 60ms 以内。这是通过为 NPU 自定义编写内核实现的，摆脱了对 4090 等高端 GPU 的依赖，证明了极低算力边缘设备运行视觉 AI 的可行性。
所属事件:14克开发板手写NPU内核实现亚60ms立体深度推理(3 条相关)→
「Infra」频道最新
- 设计可靠 LLM 网关：构建后端统一可信入口 — Mahmoud_Zalt · 2026-08-28
- LightGlue 推 ONNX 版：支持 TensorRT 与跨平台部署 — rsasaki0109 · 2026-08-28
- LLM 三次逃逸 VM，研究者重申沙箱需攻击面减缩 — dyn___ · 2026-08-28
- Cloudflare 工程师：如何构建 LLM 时代可扩展软件 — 新智元 · 2026-08-28
- Google/NVIDIA 联手开源项目，让 K8s 适配 LLM 推理 — SumitGup · 2026-08-28
- 国产大模型算力底座曝光：18B 激活 MoE 训练 30T token — teortaxesTex · 2026-08-28