32GB 内存跑 Qwen 3.8 27B 生视频爆内存,SSD 遭殃
Etmurbaah · reddit · 2026-09-06
作者发现其 H3 R2V 工作流在 32GB 系统内存 + 16GB VRAM 下跑 vanilla Qwen 3.8 27b 时内存溢出,大量数据被写到磁盘——单条视频就产生数 GB 写入,持续损耗 SSD 寿命。发帖询问在精度换内存的取舍下,该选哪档 Heretic/Abliterated 量化版本才能留在内存边界内。帖子揭示了本地视频生成的一个真实踩坑点:offloading 写盘的隐性硬件代价。
「Infra」频道最新
- 欧洲博士生可随需使用 B200,美国同行要靠数据创业公司养项目 — HildeKuehne · 2026-10-23
- 英伟达柏林 GTC:人形机器人与 Vera Rubin 超算成主角 — emmanuelvivier · 2026-10-23
- 联想 AI Library 新增 5 个用例,宣称一周部署、成本降 70% — shashib · 2026-10-23
- kernel 全面跑赢 cuBLAS 不重要,快速迭代调优才是关键 — blelbach · 2026-10-23
- llama.cpp 团队发布 Llama:Mac 菜单栏一键本地跑 AI 模型 — Hugging Face · 2026-10-23
- 中国日均 Token 消耗达 500 万亿,均价一年从 6.8 元涨至 13.46 元 — teortaxesTex · 2026-10-23