M5 Pro 48GB 跑 Qwen Flash:13-14 tok/s、吃 21-24GB 内存
carloslfu · reddit · 2026-09-16
一位用户发起 Mac 本地模型体验讨论:他在 MacBook M5 Pro(48GB)上跑 Qwen 3.8 Flash,速度 13-14 tok/s,占用 21-24GB 内存。
帖子征集不同配置 Mac 用户的本地模型选择与速度体验,评论区可对比各档位机型的实际表现。
「Infra」频道最新
- Lithos 团队：别拿 benchmark 当选型铁证，先定义自身指标 — JiaZhihao · 2026-09-16
- 便宜开源 LLM 第三方渠道排名：coral bricks 凭 GLM Flash 居首 — opensourcecolumbus · 2026-09-16
- 用 Xbox 当本地 AI 主机?16GB 统一内存的脑洞可行吗 — RecursiveCTE · 2026-09-16
- Rob Mulla 入职 Google 一周年:TPU 推理与 vLLM 扩展工作回顾 — Rob_Mulla · 2026-09-16
- Jev 宣称新前沿模型便宜 40-400 倍、速度快 20-200 倍 — albelfio · 2026-09-16
- Nvidia B200 算力价格单月涨 21%，AI 需求持续超预期 — JOBhakdi · 2026-09-16