M2 Ultra 运行 Qwen3.8-27B 速度基准测试实录
planetearth80 · reddit · 2026-08-18
一位用户在配备 192GB 内存的 Mac Studio M2 Ultra 上运行 llama.cpp，对 Qwen3.8-27B (Q6KXL) 量化模型进行了详细的基准测试。帖子列出了具体的编译版本、模型参数、llama-bench 测试标志及结果数据，并分享了实际服务部署时的启动参数配置。作者希望与其他 Mac Ultra 用户对比数据，以优化推理性能。
「Infra」频道最新
- 大型数据中心仅约50-150个常驻岗位,微软首楼约50名全职员工 — brezina · 2026-10-16
- 2027 年笔记本将跑 Opus 5.5 级模型？Qwen 27B 数据佐证 — cephaloform · 2026-10-16
- Oracle 一周跌 12%、较 6 月高点近腰斩，市场用脚投票 OpenAI 敞口 — alvelda · 2026-10-16
- 美国数据中心暂停令突破 400 起，AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16
- 微软研究院发布 Magnetar：最快 zkVM，比现有方案快 10-39 倍 — jedisct1 · 2026-10-16
- Bonsai 2 2B 端侧模型登 iPhone:120 token/s,速度两倍于 Qwen 3.5 2B — cephaloform · 2026-10-16