网友用 4 张卡组 RAID10 镜像,抢先试水 SSD 混合推理

TheZachMueller · x · 2026-10-12

TheZachMueller 转发关于「SSD 混合推理黎明」的讨论,称自己又一次「起太早」:已经搭了 4 套方案,用成对卡间做 RAID10 镜像来跑 SSD 混合推理。

这反映社区正在探索用大容量 SSD 承接超出显存的模型权重、降低推理成本的路线,虽然硬件先行、生态未熟,但属于端侧/本地推理 infra 的有趣实践。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →