8GB 显存跑 Krea 2 爆内存,GGUF 成本地部署唯一出路
Full-Belt3640 · reddit · 2026-08-13
一位使用 8GB AMD 显卡(RDNA2)和 32GB 内存 Linux 环境的开发者分享了运行 Krea 2 模型的困境。在使用 fp8 或 int8 量化版本时,首次生成后内存占用便会飙升至 99% 导致系统死机,即使清理缓存也无济于事。
目前,体积约 7-8GB 的 GGUF 量化版本是唯一能稳定运行的方式,但支持该格式的 Krea 2 模型较少。作者指出,尽管 ComfyUI 的动态内存管理本应让 GGUF 逐渐被淘汰,但在非官方支持的 RDNA2 显卡上仍面临严峻挑战。
「Infra」频道最新
- 打破内存墙:CXL 技术将如何重塑 AI 算力基础设施 — BenBajarin · 2026-08-13
- Meta MTIA 架构曝光:72倍 MTIA 400 扩展与 AEC 线缆设计 — jwt0625 · 2026-08-13
- 纯 Rust 浏览器端运行:Qwen3-TTS 本地语音克隆实测 — doodlestein · 2026-08-13
- 曝 Anthropic 拟约 60 亿美元收购 AI 芯片效率初创公司 Decart — coinfanking · 2026-08-13
- 纯 Rust 编写:开源工具实现浏览器端本地多人语音识别与分离 — doodlestein · 2026-08-13
- M3 Ultra 实测:本地跑 LiquidAI 3B 模型并发解码达 374 tok/s — JosephJacks_ · 2026-08-13