学生在树莓派4上用 ARM64 汇编从零实现 YOLO26n 推理
Forward_Confusion902 · reddit · 2026-07-26
这是一个本科毕业设计：作者在 Raspberry Pi 4 上用 ARM64 汇编 + C 从零实现了 YOLO26n 推理，完全没有依赖现成推理框架。
- 重点在底层优化：ARM NEON SIMD、Winograd 卷积、优化版 GEMM、cache-aware tiling、自定义 ARM64 micro-kernel 和 operator fusion。
- 作者还把模型参数重新整理成了自定义二进制格式，以适配推理流水线。
- 当前实现已经能输出正确的目标检测结果，但作者坦言性能提升没有预期那么大，因此希望获得关于 CNN 推理优化、内存布局、向量化 的建议。
- 帖子附了仓库链接，适合对 边缘端推理加速 和 低层神经网络实现 感兴趣的人参考。
「Infra」频道最新
- General AI 价值正流向链上 AI：从实验室到路由器 — 0xJeff · 2026-07-26
- Modular 推出 LLM 推理手册，覆盖批处理缓存和 GPU 部署 — kalyan_kpl · 2026-07-26
- Prompt 缓存比换更便宜模型更省钱 — Illustrious-Bug2105 · 2026-07-26
- 中国 AI 硬件链条需求分化，国内 capex 持续抬升 — teortaxesTex · 2026-07-26
- 论文展示 460 Gbit/s 悬空钽酸锂 MZM 调制器 — jwt0625 · 2026-07-26
- 微调框架对比忽略关键前提，EP 和 SP 组合能跑到 2M 上下文 — StasBekman · 2026-07-26