Gemma 4 26B 社区优化榜:Mac 端推理已比发布时快 151%
TheMoonMidas · x · 2026-09-05
社区项目 mlx.fast 的 Gemma 4 26B A4B 挑战赛显示,经过 138 个提交、37 个优化方案的角逐,Gemma 4 26B 在 Apple Silicon Mac 上的推理速度已比发布基线快 151.4%。
- 计分方式:官方在同一台 Mac 上对比基线与候选,取 prefill^0.25 · decode^0.75,解码提速权重占 75%
- 榜首由 Claude Opus 给出的优化方案保持,前五名提交分别基于 Claude、Gemini 3.8 Flash、GPT-5.6 Sol 等模型生成
- 相邻名次差距已缩小到 0.1% 量级,说明低垂果实基本被摘完
所属事件:Gemma 4 Mac 推理优化赛收官 速度提升 151%(2 条相关)→
「Infra」频道最新
- SGLang 合并 Megakernel 低延迟模式，GB300 单用户近 1000 tok/s — ying11231 · 2026-10-21
- 拆解 Agent 拓扑:模型、循环与工具各跑在哪,决定成本与安全 — davidcrawshaw · 2026-10-21
- Chris Lattner 登台 PyTorchCon：用 MAX 和 Mojo 跨厂商扩展 PyTorch — PyTorch · 2026-10-21
- General Compute 宣布与 Positron AI 集群级合作，2027Q1 上线 — eptwts · 2026-10-21
- MemTensor 推出记忆原生架构 MemT-1.0：推理提速 1.86 倍，128K 存储省 66 倍 — _akhaliq · 2026-10-21
- LithosAI 承包 Artificial Analysis 12 项第一：GLM 5.3 Flash 跑出 1543 tok/s — JiaZhihao · 2026-10-21