Qwen3.8-9B MLX版登苹果芯片,16GB Mac可跑
alexcovo_eth · x · 2026-08-18
Qwen3.8-9B Abliterated 的 4-bit MLX 版本已发布,针对 Apple Silicon 优化。在 M5 Max 上测试,预填速度达 1028 tok/s,生成速度 44.6 tok/s,峰值显存 13.05 GB,可在 16GB 内存 Mac 上流畅运行。该模型是 Qwen3.5-9B 的第三方蒸馏版,移除了安全拒绝机制。
「Infra」频道最新
- DeepSeek 压低模型价格,网关费却未松动 — AccBalanced · 2026-08-18
- Stable Diffusion 双卡混用性能解析 — djekler · 2026-08-18
- 骁龙 X2 Elite 实测 AI 性能超竞品 2 倍 — ryanshrout · 2026-08-18
- 手握 64GB 内存和 2TB SSD,求组建低成本本地 AI 主机方案 — joquinjack · 2026-08-18
- Mesh LLM 开源:算力共享介于矿机与云服务之间 — alex_verem · 2026-08-18
- 超频 4 张 5060Ti 显存跑 Qwen3.8-27B — Ok-Breakfast1878 · 2026-08-18