Gemma 4 26B 在 Mac 端推理速度翻倍

Google 官方宣布,得益于开发社区在 MLX 排行榜挑战赛上的优化努力,Gemma 4 26B A4B 模型在 Mac 设备上的运行速度提升两倍,进一步挖掘了 Apple Silicon 的潜力。数据显示其解码速度达到 560 tps,预填充速度达 7k tps(8 个并发请求),相比原始基准提升 130.7%。开发者 @0xkydo 还表示期待后续更多优化。

2026-09-02 ~ 2026-09-02 · 3 条相关