M5 Ultra 对决 RTX 5090：256GB 统一内存 vs 32GB 显存跑本地大模型
Hugging Face · youtube · 2026-10-15
Apple M5 Ultra Mac Studio 已发货，Hugging Face 发布视频将其与 NVIDIA RTX 5090 在本地运行 LLM 方面对比。
- 规格对比：RTX 5090 配 32 GB VRAM，M5 Ultra 拥有最高 256 GB 统一内存，可加载远更大的模型。
- 实测：使用 Qwen3.8-27B 做基准测试，对比 prompt 处理与 token 生成速度，并考察多 token 预测(MTP)带来的加速。
- 核心公式:tokens per second ≈ 带宽 / 模型大小，带宽是决定生成速度的关键。
- 参考：MacStories 的 M5 Ultra 评测用了相同 prompt 在两台机器上测试，llama.cpp 在 RTX 5090 上跑 Q4KM 量化的结果也公开在 HF 讨论区。
「Infra」频道最新
- 量子计算上市公司市值破 500 亿美元,季度营收却不足 1.5 亿 — hardimanjames · 2026-10-15
- Liquid Inference 算力交易所已接入 28 家供应商、超 1000 个模型 — JosephJacks_ · 2026-10-15
- OCP 大会金句：光学互连「15 年来一直还差 5 年」 — BenBajarin · 2026-10-15
- 破解版 PS5 在 GPU 上跑通 Qwen 3.8 27B,速度达 20 tok/s — 98Saman · 2026-10-15
- 仅调 llama.cpp 参数:Qwen3-4B 在 2019 年手机上提速 1.34 倍 — hbouammar · 2026-10-15
- a16z图解算力稀缺:老GPU成升值资产,B200租价涨至$5.69/时 — a16z · 2026-10-15