Reddit 网友探讨用 NVMe 直读替代内存卸载跑大模型生图
NowThatsMalarkey · reddit · 2026-10-08
Reddit 用户发帖询问：在本地运行大模型生图时，能否用 --fast-disk 参数代替把模型部分卸载到系统内存的传统做法。
其思路是，如果配备 Gen 4/5 NVMe 高速固态硬盘，直接从磁盘流式读取更大的模型可能也是可行选项，从而在有限显存下跑更大的生图模型。评论区围绕这一参数的实际效果与性能权衡展开讨论。
「Infra」频道最新
- Agens Volundr 32B 亮相:仅 18 层留 KV 缓存,128K 上下文只慢 5% — lmoroney · 2026-10-08
- yaroslavvb 考据「内存墙」起源,长文梳理瓶颈由来 — yaroslavvb · 2026-10-08
- 两年自建本地 Agent 系统：多机路由、记忆仲裁与失败治理全复盘 — Budget_One_8784 · 2026-10-08
- DARPA 量子基准计划公布决赛名单，6 种技术路线各押一注 — hardimanjames · 2026-10-08
- DCVC 回忆 Atom Computing 从一页 BP 走进 DARPA QBI 决赛 — hardimanjames · 2026-10-08
- Rust+Vulkan 推理后端跨厂商适配：按 CPU 指令集而非 GPU 厂商选内核 — PhysicsDisastrous462 · 2026-10-08