DeepSeek v4.1 在 1-3 bpw 极低量化下还真能用？Reddit 求实测证言
Plastic-Stress-6468 · reddit · 2026-10-28
Reddit 用户发帖求证：近来不少帖子称推理引擎能在廉价硬件上以 1-3 bpw 的极低量化跑 DeepSeek v4.1-1017 且速度出人意料地可用，他想确认是否真有人拿它干活，而不只是当猎奇玩具。
作者回忆上次尝试是 v4-0731 的 Q2 版本，效果远逊于全重量 Q8；而当时 Q8 本身也接近 QAT 过的 Q4，再往下压 2 个 bpw 表现明显劣化。他征集 1-3 bpw 跑 v4.1-1017 的实际体验，尤其希望与更高量化的 3.8FN 等模型作对比。
「Infra」频道最新
- 云厂商别忘本：企业上云主力仍是计算存储网络等基础服务 — DavidLinthicum · 2026-10-28
- 沙特 HUMAIN 披露 AI 基础设施筹建：选址与电力评估先行 — HUMAIN · 2026-10-28
- llama.cpp 新 PR 融合 MoE 矩阵乘与 GLU,Qwen3 系列 CUDA 吞吐最高提 17% — jacek2023 · 2026-10-28
- 5分钟可视化拆解LLM API调用全链路：从网关到GPU — HowDevelop · 2026-10-28
- 高通 GenieX 让任意 GGUF 模型跑上骁龙 Hexagon NPU，附实测数据 — SkyFeistyLlama8 · 2026-10-28
- 缓存命中价仅 2%：一文讲透 Agent 循环里的 Prefix Caching 省钱术 — Arindam_1729 · 2026-10-28