256GB M5 Mac Studio 本地跑 DeepSeek 量化版达百速解码
开发者 rez0 实测在配备 256GB 内存的 M5 Mac Studio 上,借助 MLX Serve 运行 DeepSeek-V4.1-Flash 的 3.0bpw iQ 量化版本,本地解码速度达到约 100 tok/s,且模型准确率保持在 93%。这一结果展示了高端 Mac 硬件配合低比特量化方案在本地部署大模型的可行性与性价比,引发社区关注。
2026-11-03 ~ 2026-11-03 · 2 条相关
- 256GB M5 Max Studio 跑 DeepSeek-V4.1 量化版:100 tok/s 解码 — rez0__ · 2026-11-03
另有 1 条近重复转述:Zaddyzaddy