M3 Max 本地跑通 125B Qwen 模型，推理达 70tok/s

开发者实测在 Apple Silicon 上通过 mlx-serve 原生运行 Qwen 3.8 Flash Next (125B-A6B) 模型。在 M3 Max (128GB) 上推理速度达 70 tok/s，预填充约 300 tok/s，完成 32k token 任务后内存仍有 20GB 空闲。用户指出机器过热时会出现降频问题，但整体表现显示高端 Mac 已具备本地运行百亿级参数大模型的实用能力。

2026-08-28 ~ 2026-08-29 · 3 条相关

• 实测 M3 Max 跑通 125B Qwen 模型，推理速度达 70tok/s — mayfer · 2026-08-28
• M3 Max 本地跑出 70 tok/s，32k 任务后仍余 20GB 内存 — mayfer · 2026-08-28

另有 1 条近重复转述:KaelinHooper