M5 Max 还是升级台式机?本地跑大模型的带宽与显存账
vitamins1000 · reddit · 2026-09-21
Reddit 用户纠结是否花约 2500 美元换 M5 Max 笔记本,分享了自己的本地模型实测账:
- 现有 M5 MacBook Air 32GB 跑本地模型体验差:发热严重,只能跑小模型/低量化才够速度;
- 台式机(5070 Ti + 128GB DDR5)跑 Qwen3.8 BF16 带 MTP 约 20 token/s,加显存和内存只能换更大模型和更长上下文,不提升速度;
- M5 Max 641GB/s 带宽实测不会比台式机快,只是多了便携性;
- 还在纠结是否等 2027 年初的 M7。
帖内向 M5 Max 用户和台式机用户征集使用体验,是典型的端侧部署硬件选型讨论。
「Infra」频道最新
- 用 logprobs 把任意本地 LLM 变成分类器,附带完整命令 — DivideHorror3217 · 2026-09-21
- 自建 4×V100 本地 LLM 服务器,企业级工作流跑通 — TrailFeatures · 2026-09-21
- 5 美元 10 分钟微调 Qwen3.6-35B,GPQA +8%、MMLU-Pro +12% — josh_wills · 2026-09-21
- 新 agent 运行时宣称：支持数十亿 agent 集群，沙箱密度提升 10-20 倍 — astralmatrix · 2026-09-21
- SGLang 团队协助用户排查 hicache 崩溃问题 — TheZachMueller · 2026-09-21
- 两年前 sam 说智能将廉价到忽略不计，如今 10/50 美元成新常态 — teortaxesTex · 2026-09-21