8GB 显存跑 Krea 2 爆内存,GGUF 成本地部署唯一出路
Full-Belt3640 · reddit · 2026-08-13
一位使用 8GB AMD 显卡(RDNA2)和 32GB 内存 Linux 环境的开发者分享了运行 Krea 2 模型的困境。在使用 fp8 或 int8 量化版本时,首次生成后内存占用便会飙升至 99% 导致系统死机,即使清理缓存也无济于事。
目前,体积约 7-8GB 的 GGUF 量化版本是唯一能稳定运行的方式,但支持该格式的 Krea 2 模型较少。作者指出,尽管 ComfyUI 的动态内存管理本应让 GGUF 逐渐被淘汰,但在非官方支持的 RDNA2 显卡上仍面临严峻挑战。
「Infra」频道最新
- 开发者在 Colab 持续预训练 Luganda 语小模型,8 小时跑到 41% — weskambale · 2026-10-16
- 黄仁勋披露:每 GPU 年收约数千美元软件费,成 NVIDIA 重要收入线 — rohanpaul_ai · 2026-10-16
- 开发者亲测:几万块 V100 本地部署 DeepSeek,不如直接订阅 Claude — lxfater · 2026-10-16
- 公开喊话 neocloud:我愿买 3 万美元 GPU 算力,给个折扣吗 — Sauers_ · 2026-10-16
- 拿到新硬件就开跑:垃圾佬第一时间本地部署模型 — lxfater · 2026-10-16
- Together AI 提出 Score Centering:量化推理下 RL 训练不再崩 — nrehiew_ · 2026-10-16