DeepSeek-V4.1-Flash EXL3-3bpw 量化版可在双卡 RTX PRO 6000 上运行
No-Paper-557 · reddit · 2026-10-25
Reddit 用户分享了 diffbot 发布在 Hugging Face 的 DeepSeek-V4.1-Flash EXL3-3bpw 量化版本,可在两张 RTX PRO 6000(共 192GB 显存)上运行,为想本地部署该大模型但显存有限的用户提供了更低显存占用的方案。
「Infra」频道最新
- 「出租：GB300 全新未用」两句话恐怖故事调侃 GPU 租不出去 — sloppenheimer · 2026-10-25
- 网友晒 8x3090 自组机:192GB VRAM + 256GB RAM 跑本地模型 — generativist · 2026-10-25
- 有人提醒：AI发展绕不开的终极约束是热力学定律 — AryHHAry · 2026-10-25
- KohakUnlock 解锁 RTX 20 系 FP32 限制:2080 Ti 算力提升 85% — CeFurkan · 2026-10-25
- 整理 18 组 ComfyUI 实测：GPU unlock 后 BF16 提速远超 INT8 — Acceptable_Put9983 · 2026-10-25
- 博主复盘 Kimi K3 爆火，猜国内将释放部分 B300 — lipeng0820 · 2026-10-25