Mac Studio 跑DeepSeek仅8tps
BitXorBit · reddit · 2026-07-08
有人在 Mac Studio M3 Ultra 上本地运行 DeepSeek V4 Flash,提到 llama.cpp 已支持该模型,unsloth 也发布了 GGUF 版本。帖子重点是作者实测只有约 8 token/s,并贴出了 llama-server 的启动参数,询问这个速度是否正常、是否配置有问题。
「Infra」频道最新
- 马斯克断言:机器人 RAM 需求将超其他一切,超级智能算力将移向深空 — elonmusk · 2026-10-27
- RTX 5090 卖到 7000 美元,PC 游戏社区集体否认 AI 热潮 — PAstynome · 2026-10-27
- Wan2GP 上架 Pinokio:6GB 显存一键跑 AI 视频生成 — cocktailpeanut · 2026-10-27
- Wan2GP AMD 版一键安装上线,6GB 显存即可跑 AI 视频生成 — cocktailpeanut · 2026-10-27
- AWS 详解 Agent 提示缓存:显式+隐式双模式省下重复 token 账单 — AWS ML Blog · 2026-10-27
- 6 个月被抢超 1 亿美元:盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27