利用DGX Station与Mac M5 Max SSD流运行DeepSeek大模型
antirez · x · 2026-08-16
作者探讨了利用DGX Station整合内存与显存来推理超大模型的潜力，尽管带宽限制巨大，但通过DwarfStar等编排工具仍可在Q2/Q3量化下获得较好速度。随后展示了一个演示：在配备128GB内存的Mac M5 Max上，通过SSD流式加载运行DeepSeek v4 PRO Q2模型，并成功完成了一段意大利语短故事的英译任务，证明了该方案在特定任务下的可用性。
所属事件:DeepSeek v4 PRO 实测 Mac M5 Max 本地翻译(2 条相关)→
「Infra」频道最新
- 开源 VibeZero:用 agent 一把生成整套可部署的 vibe coding 平台 — cnakazawa · 2026-10-16
- CoreWeave 债务成本大幅下降:DDTL 利差从 S+9.62% 收窄至 S+2.25% — BenBajarin · 2026-10-16
- 软银筹备 SB Energy 与机器人子公司 Roze 美国上市,估值或超 500 亿美元 — nordicinst · 2026-10-16
- TRL 复现 Modal 混合精度 RL 训练：GRPO 150 步崩塌，SC+MIS 稳到 0.72 — QGallouedec · 2026-10-16
- Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16
- 英伟达 Vera Rubin NVL72 首批实测：每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16