挑战赛让 Qwen 3.8 在 Mac 上提速 152%
gajesh · x · 2026-08-16
MLX.fast 发起的 Qwen MLX 挑战赛取得突破，展示了 Apple Silicon 在运行密集模型上的潜力。
优化成果
- 目前最佳成绩使 Qwen 3.8 27B 在 Mac 上的推理速度比基线提升了 152.5%。
- 解码速度达到 53.7 tokens/s，比原生多 token 预测（MTP）速度快 2.5 倍。
技术细节
- 推测解码是密集模型优化的关键，挑战者通过优化草稿头权重实现加速。
- 评分机制改进为 8 个隐藏长度的中位数，避免过拟合单一用例。
- 这一成果打破了“Mac 不适合跑密集模型”的普遍认知。
所属事件:MLX挑战赛让Qwen 27B在Mac上提速逾150%(4 条相关)→
「Infra」频道最新
- 开源 VibeZero:用 agent 一把生成整套可部署的 vibe coding 平台 — cnakazawa · 2026-10-16
- CoreWeave 债务成本大幅下降:DDTL 利差从 S+9.62% 收窄至 S+2.25% — BenBajarin · 2026-10-16
- 软银筹备 SB Energy 与机器人子公司 Roze 美国上市,估值或超 500 亿美元 — nordicinst · 2026-10-16
- TRL 复现 Modal 混合精度 RL 训练：GRPO 150 步崩塌，SC+MIS 稳到 0.72 — QGallouedec · 2026-10-16
- Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16
- 英伟达 Vera Rubin NVL72 首批实测：每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16