算账：M5 Ultra 每美元内存带宽比 DGX Spark 好 5.6 倍，LLM 推理关键指标
SumitGup · x · 2026-10-19
alexocheema 指出 LLM 推理高度受内存带宽限制（即使高并发下也是），因此每 GB/s 带宽的成本才是推理硬件最关键指标，并给出对比：
- M5 Ultra：$5499，96GB @ 1.2TB/s，$4.5/GB/s
- DGX Spark：$6950，128GB @ 273GB/s，$25.5/GB/s
- DGX Station：约 $150K，252GB @ 7.1TB/s（HBM3e），$21.1/GB/s
即 M5 Ultra 的 $/GB/s 比 DGX Spark 好 5.6 倍、比 DGX Station 好 4.7 倍。作者预计 512GB 版 Mac Studio 起价约 $15899（按惯常 +$25/GB 内存加价推算）。通过 Thunderbolt 5 的 RDMA 可实现个位数微秒延迟，最多 5 根线缆提供 400Gb/s 互联带宽。作者惊讶 Apple 未进一步提价，甚至建议趁涨价前购入。
「Infra」频道最新
- Sipeed 推 MaixStation 挑战 DGX Spark：128GB 内存 40W，价格差三倍 — AIFlow_ML · 2026-10-19
- ReaDy 用混合线性注意力循环状态做投机草稿，提升生成速度与接受率 — Bohan Sun · 2026-10-19
- TRELLIS.2 图生 3D 在 AMD RX 9060 XT 上跑通:修复、工作流与 MIT 替代组件 — ova-mojica · 2026-10-19
- CI 迎战 AI Agent 时代：Celesto 宣称每分钟成本比 GitHub Runner 低 96% — aniketmaurya · 2026-10-19
- 华为发布 Atlas 960E 超节点：NPO 光互联连接 4096 颗 NPU — bookwormengr · 2026-10-19
- 机器人「大脑」推理成本三个月暴跌 84%，硬件成唯一大头 — victor_explore · 2026-10-19