Qwen3.8 27B 视觉模型 MLX 量化评测：低比特仍能打
Top-Eye-8104 · reddit · 2026-08-26
团队发布了 Qwen 3.8 27B Vision 模型的多种 MLX 量化版本（从 8bit 到 3.23bpw），并与其他社区版本（如 lm-studio, mlx-community）进行了对比评测。通过在 H200 上使用自建测试集，发现其 11.8 GB 的 DWQ 量化版本在 Top-1 一致性上达到 70.32%，远超同体量的其他版本。该版本可在 16GB MacBook 上运行（需调整 wired limit）。量化方法采用了 BF16 教师模型蒸馏。
「Infra」频道最新
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线，端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15
- 实测 Apple Silicon GEMM 性能:M6 矩阵单元 fp8 达 fp16 两倍,M5 不支持 — Brilliant-Hall1387 · 2026-10-15