用SSD RAID0跑本地大模型可行吗

KeinNiemand · reddit · 2026-07-17

作者在 Reddit 里询问:**能否用多块 SSD 组 RAID0 来跑 LLM**,以替代昂贵的 VRAM 和系统内存。 他的设想是利用 SSD 单价远低于 RAM 的优势,通过 16–32 块高速 SSD 的 RAID0 把理论带宽堆到接近内存级别;但也承认这种方案会面临**更高延迟、数据在 SSD/RAM/VRAM 间反复搬运的开销、以及主板 PCIe 通道数不足**等问题。 帖子本质是在讨论:对于本地大模型推理,**带宽是否能在多大程度上弥补延迟劣势**,以及这种“SSD 堆料”方案是否真的能成为可负担的本地大模型路线。

原文链接 →