128GB Mac Studio 跑 antirez Dwarfstar,SSD 卸载仍有 16 tok/s
antirez · x · 2026-10-19
开发者 prasincs 在 128GB M5 Max Mac Studio 上用 DeepSeek Flash 4.1 实测 antirez 的 Dwarfstar,借助 SSD offload 获得约 16 tok/s 的输出速度——比仅靠内存能装下的规模快约 3 倍,展示了大内存 Mac 加闪存卸载跑大模型的实际可行性。
「Infra」频道最新
- 思科联手 NVIDIA 推 USFP 光模块规划:同尺寸带宽密度 4 倍 — shashib · 2026-10-19
- 投资人预言:2027 年超大规模厂商 Capex 将全面转向自研芯片 — pdamodaran · 2026-10-19
- CRWV 占 NVDA GPU 销售约 8%,类比思科循环交易警示泡沫 — churchkey · 2026-10-19
- Meta 曝 Prometheus 超集群细节:百公里互联,目标百万 GPU 单机运行 — ryanshrout · 2026-10-19
- 高盛上调 CoreWeave 至买入，看多每兆瓦回报上行 — churchkey · 2026-10-19
- DeepSeek-V4.1-Flash 压缩到 3-bit,三张 RTX PRO 6000 可跑,KLD 仅 0.066 — TheZachMueller · 2026-10-19