256GB M5 Mac Studio 本地跑 DeepSeek 量化版达百速解码

开发者 rez0 实测在配备 256GB 内存的 M5 Mac Studio 上,借助 MLX Serve 运行 DeepSeek-V4.1-Flash 的 3.0bpw iQ 量化版本,本地解码速度达到约 100 tok/s,且模型准确率保持在 93%。这一结果展示了高端 Mac 硬件配合低比特量化方案在本地部署大模型的可行性与性价比,引发社区关注。

2026-11-03 ~ 2026-11-03 · 2 条相关

另有 1 条近重复转述:Zaddyzaddy