Mac Studio 跑DeepSeek仅8tps
BitXorBit · reddit · 2026-07-08
有人在 Mac Studio M3 Ultra 上本地运行 DeepSeek V4 Flash,提到 llama.cpp 已支持该模型,unsloth 也发布了 GGUF 版本。帖子重点是作者实测只有约 8 token/s,并贴出了 llama-server 的启动参数,询问这个速度是否正常、是否配置有问题。
BitXorBit · reddit · 2026-07-08
有人在 Mac Studio M3 Ultra 上本地运行 DeepSeek V4 Flash,提到 llama.cpp 已支持该模型,unsloth 也发布了 GGUF 版本。帖子重点是作者实测只有约 8 token/s,并贴出了 llama-server 的启动参数,询问这个速度是否正常、是否配置有问题。