MLX Fast 将 Qwen 3.8 27B 在 Mac 上提速 153%
alexcovo_eth · x · 2026-08-17
开发者分享 MLX Fast 在 Qwen 3.8 27B 模型上的优化进展:运行不到 16 小时,性能相比基准提升 153%,比原生 MTP 解码快 2.5 倍。该工具针对 Apple Silicon 架构优化,利用推测解码等技术挑战“Mac 擅长 MoE 但不擅长稠密模型”的普遍观念。
所属事件:MLX挑战赛让Qwen 27B在Mac上提速逾150%(4 条相关)→
「Infra」频道最新
- 用 Void 加 fate 一天搭出完整 vibe coding 平台并部署到 Cloudflare — cnakazawa · 2026-10-16
- 开源 VibeZero:用 agent 一把生成整套可部署的 vibe coding 平台 — cnakazawa · 2026-10-16
- CoreWeave 债务成本大幅下降:DDTL 利差从 S+9.62% 收窄至 S+2.25% — BenBajarin · 2026-10-16
- 软银筹备 SB Energy 与机器人子公司 Roze 美国上市,估值或超 500 亿美元 — nordicinst · 2026-10-16
- TRL 复现 Modal 混合精度 RL 训练:GRPO 150 步崩塌,SC+MIS 稳到 0.72 — QGallouedec · 2026-10-16
- Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16