Gemma 4 26B 社区优化榜:Mac 端推理已比发布时快 151%
TheMoonMidas · x · 2026-09-05
社区项目 mlx.fast 的 Gemma 4 26B A4B 挑战赛显示,经过 138 个提交、37 个优化方案的角逐,Gemma 4 26B 在 Apple Silicon Mac 上的推理速度已比发布基线快 151.4%。
- 计分方式:官方在同一台 Mac 上对比基线与候选,取 prefill^0.25 · decode^0.75,解码提速权重占 75%
- 榜首由 Claude Opus 给出的优化方案保持,前五名提交分别基于 Claude、Gemini 3.8 Flash、GPT-5.6 Sol 等模型生成
- 相邻名次差距已缩小到 0.1% 量级,说明低垂果实基本被摘完
「Infra」频道最新
- Hermes 上线本地后端：支持 DeepSeek-V4-Flash 等模型 UD-Q4 量化 — maximelabonne · 2026-09-05
- AI Now 播客谈数据中心狂飙：社区反对声与「他们不建在自己家」 — AINowInstitute · 2026-09-05
- Apple Silicon 推理优化挑战:Gemma 4 Mac 跑速提升 151.4% — gajesh · 2026-09-05
- SGLang 开源 Breakable CUDA Graph：Prefill 建图提速 3.8–5.2 倍 — ying11231 · 2026-09-05
- SemiAnalysis：OpenAI 自研 ASIC 意在吓退 NVIDIA，输赢都赚 — MarvinTBaumann · 2026-09-05
- 分析师：2027 年是算力供给最紧之年，2028 年才现缓解 — BenBajarin · 2026-09-05