Gemma 4 MLX 挑战赛：本地推理速度提升至 178 tok/s
TheMoonMidas · x · 2026-08-28
Gemma 4 MLX 挑战赛取得新进展，在 Apple Silicon 上的推理速度从基准的 153.1 tok/s 提升至 178 tok/s。该挑战由 Yukon Research 和 Eigen Labs 推动，旨在通过优化 MLX 框架来提升本地 AI 的运行效率。目前的记录保持者将解码速度提升了 16.6%。
所属事件:Gemma 4 MLX 挑战赛启动，Mac 推理提速至 178 tok/s(2 条相关)→
「Infra」频道最新
- 开源推理引擎 Magnitude 让本地模型比 Ollama 快 2 倍以上 — nickbaumann_ · 2026-10-15
- 传 Nvidia 本周宣布数百亿美元欧洲 AI 投资 — georgemillo · 2026-10-15
- Cloudflare 一夜 $10,811 账单：退款靠运气，刹车得自己装 — sujingshen · 2026-10-15
- 阿姆斯特丹大学新方法:Transformer 免再训练变身弹性模型 — VISLab-Amsterdam · 2026-10-15
- vLLM MTP3 验证:AIME25 提至 0.9667,prefill kernel 延迟最高降 84% — vllm_project · 2026-10-15
- 26ms 决策模型 s1-llm-auto-router 开源，为请求自动选 LLM — airesearch12 · 2026-10-15