4TB Flash GPU才适合跑前沿模型
idanbeck · x · 2026-07-18
作者转述了一种硬件设想：如果一张 GeForce 5090 能带上 **4TB Flash**，并且有足够多的并行引脚，那么它就能非常好地运行前沿模型。 核心判断是：**M.2 SSD 带宽不够**，现有消费级存储会限制本地大模型体验；如果 NVIDIA 不做这种架构，别人很快也会做。
idanbeck · x · 2026-07-18
作者转述了一种硬件设想：如果一张 GeForce 5090 能带上 **4TB Flash**，并且有足够多的并行引脚，那么它就能非常好地运行前沿模型。 核心判断是：**M.2 SSD 带宽不够**，现有消费级存储会限制本地大模型体验；如果 NVIDIA 不做这种架构，别人很快也会做。