众包优化：Qwen 3.8 在 Mac 端提速 230%
julianharris · x · 2026-08-22
开源社区通过众包竞赛，在一周内将 Qwen 3.8 27B 在 Mac 端的中位解码速度从 26 tok/s 提升至 87.9 tok/s，实现了约 235% 的提速。31 位贡献者提交了 67 项改进，主要通过自定义 MTP 头进行推测解码，每轮能起草并接受约 3.9 个 token，同时保持与串行输出完全一致。这展示了密集模型在 Apple Silicon 上的优化潜力。
「Infra」频道最新
- 经济学家：禁建数据中心如同禁止新能源，不扩散AI更危险 — Afinetheorem · 2026-08-22
- DSPy 3.3.1 发布：强化 Python 隔离与 MCP 2.0 支持 — dbreunig · 2026-08-22
- 无需训练：几何 KV 路由让 Qwen 长上下文显存减半 — Electrical_Offer5667 · 2026-08-22
- 硅谷误解了民众反对数据中心的真实原因 — jachiam0 · 2026-08-22
- Anthropic 招募 OpenAI 前硬件团队成员，加速自研芯片 — eliebakouch · 2026-08-22
- Modal 推出 Training Gym，简化 RL 后训练基础设施配置 — andersonbcdefg · 2026-08-22