8GB显存跑图：RTX 3070 Ti本地实测Krea 2 Turbo
niechta · reddit · 2026-08-13
开发者分享了在单张 RTX 3070 Ti（8GB 显存）上运行 Krea 2 Turbo 模型的实测配置。
- 量化与优化：将模型量化为 4-bit (W4A4)，体积压缩至 6.9 GB，并在量化前将 LoKr 权重烘焙进 bf16 原始权重中。
- 软件栈：使用 ComfyUI 0.32，搭配 INT8 attention 优化与 fp8 格式的 Qwen3-VL-4B 文本编码器。
- 性能表现：在 1024×1024 分辨率、8 步采样下，单张图片生成耗时约 11 秒。
「Infra」频道最新
- 加密做市商 Wintermute 拟五年投资约 10 亿美元建设 AI 数据中心 — Polymarket · 2026-08-13
- 英伟达联合华尔街巨头，拟融资五千亿美元押注AI基建 — fortune · 2026-08-13
- 单卡B300跑1.6T模型：新量化框架实现50 tok/s — dosco · 2026-08-13
- Menlo Park 电价高达 53.8 美分：自建 GPU 算力已不划算 — generativist · 2026-08-13
- Fluidstack 走访纽交所，探讨美国 AI 算力基建投资 — MxMnr · 2026-08-13
- 开源项目 mlx-dspark 让 Mac 跑大模型提速 3.3 倍 — A-Rahim · 2026-08-13