利用DGX Station与Mac M5 Max SSD流运行DeepSeek大模型
antirez · x · 2026-08-16
作者探讨了利用DGX Station整合内存与显存来推理超大模型的潜力，尽管带宽限制巨大，但通过DwarfStar等编排工具仍可在Q2/Q3量化下获得较好速度。随后展示了一个演示：在配备128GB内存的Mac M5 Max上，通过SSD流式加载运行DeepSeek v4 PRO Q2模型，并成功完成了一段意大利语短故事的英译任务，证明了该方案在特定任务下的可用性。
所属事件:DeepSeek v4 PRO 实测 Mac M5 Max 本地翻译(2 条相关)→
「Infra」频道最新
- Cursor 团队 Git 大作获赞：无状态存储将重写基础设施 — thesephist · 2026-08-24
- AI 性能工程资源清单 v2 发布：从单次推理到 MoE serving 全覆盖 — AccBalanced · 2026-08-24
- 韩国半导体工程师地位超越医生，家长意愿成风向标 — SuB8u · 2026-08-24
- 现代编程的“VendorOps”困局 — vboykis · 2026-08-24
- 本地开发高效且可控，何必一味依赖云端 — vboykis · 2026-08-24
- 在 PrimeIntellect 训练，用 Modal 渲染 rollout — willcb · 2026-08-24