Sentdex 实测：本地跑默认 Qwen 模型约需 9GB 显存

开发者 Sentdex 分享本地部署的实测数据并随后纠正：约 9GB 显存对应的是默认的 40 亿参数 Qwen 模型，而非此前所说的 8B 版本；他也试过 8B 的 Qwen 及其他模型，但认为默认模型表现已相当不错。另有网友提问求 TL;DR，并猜测 30 天内可能出现基于 M5 Mac、跑分接近 Jev 当前水平的本地 MLX 方案。

2026-09-22 ~ 2026-09-22 · 3 条相关

• 网友问:30 天内 M5 Mac 本地方案能否逼近 Jev 跑分 — m31uk3 · 2026-09-22
• Sentdex 实测:本地跑默认模型约需 9GB 显存 — Sentdex · 2026-09-22
• Sentdex 纠正:9GB 显存跑的是默认 4B Qwen 模型 — Sentdex · 2026-09-22