仅升级 onnxruntime-gpu,SAM 3 推理速度提升 3.8 倍

开发者 Maziyar Panahi 发现无需改动模型即可白捡性能提升:其疟疾细胞计数检测管线使用 SAM 3 ONNX 模型并在 L4 GPU 上运行,仅将 onnxruntime-gpu 升级到 1.31 版本并配合 CUDA 13,推理速度在一个周末内提升 3.8 倍。模型、GPU 硬件与输出结果均完全不变,每个检测框误差控制在 0.02 像素以内,唯一改动就是推理运行时库的升级。

2026-11-03 ~ 2026-11-03 · 2 条相关

• 只升 onnxruntime-gpu 到 1.31+CUDA 13,SAM 3 推理提速 3.8 倍 — MaziyarPanahi · 2026-11-03
• 只换 onnxruntime-gpu 1.31,疟疾检测模型推理提速 3.8 倍 — MaziyarPanahi · 2026-11-03