两台 256GB Mac Studio 跑大模型更快:带宽叠加实测反超单台 512GB
lxfater · x · 2026-10-31
作者在纠结买一台 512GB 还是两台 256GB 的 M5 Ultra Mac Studio(国行 36 核 CPU/80 核 GPU/1TB 硬盘,单台 172,999 元,两台合计只贵 499 元)。
结论是两台 256GB 更香:
- 单台优势是省事,512GB 统一内存、1.2TB/s 内存带宽;
- 双机可用一根雷雳 5 线连接,靠 RDMA 减少数据传输开销,并做张量并行;
- 双机并行读模型时有效带宽可达 2.2TB/s,实测 GLM-5.3 生成速度从 40 token/s 提到 70,DeepSeek V4.1 Flash 从 60 提到 100。
本质是一份本地部署大模型的选型+带宽实测账。
「具身」频道最新
- 智元 110 台人形机器人齐舞创吉尼斯世界纪录 — emmanuelvivier · 2026-10-31
- Meta 腕带 subvocal 演示引热议,评论「记得投资」笑翻众人 — LinusEkenstam · 2026-10-31
- 开发者晒 2013 至今自制机器人开发板,十年瘦身对比 — k7agar · 2026-10-31
- 清华团队发布流式动作分词器 ActionCodec2,抓取率达 FAST 的 5 倍 — ZeYanjie · 2026-10-31
- RL 训练机械臂用球拍连续颠球 7 分钟不落地 — ___Mufasaa · 2026-10-31
- 机器人仿真社区升温:Sentdex、Stone Tao 力荐仿真世界素材 — AIFlow_ML · 2026-10-31