Dwarfstar 定制量化：Qwen 在 96GB M3 Ultra 上跑得又快又稳
TheRealJesus2 · reddit · 2026-10-01
Reddit 用户分享对 Dwarfstar（dwarfstar.sh）量化方案的初步体验：该公司针对少数模型提供定制量化技术，配合其软件运行。发帖人在 96GB 内存的 M3 Ultra Mac Studio 上运行 Qwen 3 8B（next），速度快、表现良好，且还有余量同时运行其他任务，表示"相当惊艳"，并询问其他人的使用体验。
「Infra」频道最新
- Qwen-Image 2.1 提示词增强节点提速 4.4 倍,8GB 显存可跑 — mozophe · 2026-10-01
- 不走双系统不开虚拟机：WSL 里跑通 Omarchy 桌面，支持 GPU 加速 4K — sytelus · 2026-10-01
- 散户建仓 Cerebras：押注推理时代 SRAM 替代 HBM 的低延迟路线 — Sethwinterroth · 2026-10-01
- Cerebras 被曝潜力超 200 亿美元：OpenAI 付费档验证推理速度价值 — Sethwinterroth · 2026-10-01
- MLX-Serve 26.10.1 发布:Qwen3.8 27B 推理提速最高 66% — TheMoonMidas · 2026-10-01
- 约 11150 颗 Starlink 卫星在轨，V3 部署将再上台阶 — XFreeze · 2026-10-01