Qwen3.8-9B MLX版登苹果芯片,16GB Mac可跑

alexcovo_eth · x · 2026-08-18

Qwen3.8-9B Abliterated 的 4-bit MLX 版本已发布,针对 Apple Silicon 优化。在 M5 Max 上测试,预填速度达 1028 tok/s,生成速度 44.6 tok/s,峰值显存 13.05 GB,可在 16GB 内存 Mac 上流畅运行。该模型是 Qwen3.5-9B 的第三方蒸馏版,移除了安全拒绝机制。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →