256GB Mac Studio 本地跑 DeepSeek 量化版：解码 100 tok/s、准确率 93%
Zaddyzaddy · x · 2026-11-03
网友 @rez0 分享了在 256GB 内存的 Mac Studio（M5 芯片）上通过 MLX 量化（3.0bpw）本地部署 DeepSeek-V4.1-Flash 的实测数据：解码速度约 100 tok/s，prefill 达 1500-1800 tok/s，同时保持约 93% 的准确率。后续有人追问并发数等细节。对于关注大内存苹果设备本地跑大模型的人来说，这是一组有参考价值的实测数字。
所属事件:256GB M5 Mac Studio 本地跑 DeepSeek 量化版达百速解码(2 条相关)→
「Infra」频道最新
- ISTA GSQ-RCO 与 Unsloth 量化之争升温，网友质疑其不公布 KLD 指标 — Queasy_Back2588 · 2026-11-03
- RTX 20-40 系解锁后 int8 会变快吗？网友求实测数据 — Dave-C · 2026-11-03
- 业内人质疑 B300/GB300 Blackwell 融资:多层 SPV 结构涉嫌造假 — TheZachMueller · 2026-11-03
- Google Cloud Run 推出独立实例：单台 microVM 可 SSH 按需启停 — rseroter · 2026-11-03
- 曝亚马逊取消 GPU 订单并封停购买算力硬件的账户，Tim Sweeney 也在受害者之列 — chemist_slime · 2026-11-03
- Northwood 融资 3.75 亿美元，a16z 对谈太空互联网时机 — a16z · 2026-11-03