Qwen3 MoE 剪枝实测：180B 级模型压到 65GB 可跑笔记本
EyalToledano · x · 2026-08-27
- 开发者对 Qwen3.8-Flash-Next 做专家剪枝（REAP 方法）实测，初步结果亮眼：
- REAP-384（剪掉 25% 专家）：显存/内存占用从 97GB 降到 80GB，相对原版保持约 89% 准确率；
- REAP-256（剪掉 50% 专家）：占用降到 65GB，准确率约 81%，且加载速度翻倍。
- 有趣的副作用：REAP-256 变得更话痨，思考（thinking）比原版更多。
- 结论：一台 128GB 内存的笔记本现在能以 65GB 加载一个 180B 级模型，还留 40GB+ 余量给长上下文——「有望成为日常主力机」。
所属事件:开发者把 180B 级 Qwen MoE 剪枝压缩进 48GB Mac(9 条相关)→
「Infra」频道最新
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线，端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15
- 实测 Apple Silicon GEMM 性能:M6 矩阵单元 fp8 达 fp16 两倍,M5 不支持 — Brilliant-Hall1387 · 2026-10-15