Apple Silicon 推理优化挑战:Gemma 4 Mac 跑速提升 151.4%
gajesh · x · 2026-09-05
YukonMLX.fast 团队公开招募 Mac 托管资源,想租 10 台 M5 Max(128GB)裸金属机器三个月,要求原生 MLX GPU 访问、sudo 权限、风扇/温度控制与响应迅速的运维支持。他们运营一个帮助开发者在 Apple Silicon 上优化推理性能的站点,宣称合作过的每个模型都拿到了 100-250% 的性能提升,并愿意给托管合作方引流作为回报。
链接中的「Gemma 4 MLX Challenge」排行榜显示:Gemma 4 26B A4B 在 Mac 上的最佳成绩比基线快 151.4%,已有 138 个入选提交、37 个求解者。评分以 prefill^0.25·decode^0.75 加权,decode 占四分之三;榜首提交(2026 年 9 月 4 日)由 Claude Opus 协助完成,Dec622.7、Pre7663.0,领先第二名仅 0.72%。头部成绩由 Claude Opus、Gemini 3.8 Flash、GPT-5.6 等模型辅助贡献。
所属事件:Gemma 4 Mac 推理优化赛收官 速度提升 151%(2 条相关)→
「Infra」频道最新
- Pichai:所有人算力都严重短缺,谁都希望计划量翻倍 — firstadopter · 2026-10-21
- 斯坦福 CS336 第 6 讲:kernel 提速先少跑几趟显存 — stanfordnlp · 2026-10-21
- General Compute 携手 Positron：GPU 管提示，专用内存硬件管出 token — aftahi_ai · 2026-10-21
- 2026 年 AI 相关债券发行已达 4190 亿美元,比去年全年高出 90% — SumitGup · 2026-10-21
- 专家警示:企业沉迷 AI 预算,正在忽视云 FinOps 基本功 — DavidLinthicum · 2026-10-21
- 爆料称 DeepSeek 缺的是算力:1GW 集群可训出远强于 V4.1F 的模型 — teortaxesTex · 2026-10-21