个人 C++/Vulkan 推理引擎 LaForge 调优后 SD1.5 出图快 30-46 倍

Ichidan256 · reddit · 2026-10-16

开发者自研的基于 Vulkan 的 C++ AI 推理引擎 LaForge 通过补齐缺失 shader 和模型常驻修复,在 RunPod RTX 4090 上将 SD1.5 文生图性能提升 30-46 倍:512×512、20 步从 33-37 秒降至 0.8 秒,768×768 从 60 秒降至 1.8-2.0 秒,性能已接近 ComfyUI 的 PyTorch 推理栈。

其他指标:容器镜像仅 402 MB(对比 ComfyUI 精简版 7.35 GB),Pod 启动到健康约 27 秒,模型加载 10-13 秒(仅首次调用)。作者目标不只是快速生图,而是打造一个可复用的轻量 AI runtime,服务图像生成、游戏和交互式应用等场景。