3000 美元预算:Mac mini M5 Pro 64GB 还是双 5060 Ti 跑本地大模型
AdRepulsive7837 · reddit · 2026-08-26
用户预算约 3000 美元,为主本地 LLM 推理与 agent 工作负载二选一:Mac mini M5 Pro(15 核 CPU/16 核 GPU、64GB 统一内存、306GB/s 带宽)vs 双 RTX 5060 Ti 16GB(共 32GB VRAM、448GB/s 带宽)。他此前用过 RTX 4090 和 Mac Studio M3 Ultra。
Mac 的优势:64GB 内存能装更大模型和更长上下文,紧凑、安静、省电发热少,Mac 本地 LLM 生态也在快速变好。双卡的优势:可以上手 Blackwell 架构、CUDA、VLM 和 SGLang 等推理框架,教育/实验价值更高,但 32GB VRAM 对生成式 AI 偏紧。
他的典型负载是 Qwen3.8 27B 到 30B 级模型、最多 50k token 上下文的 Pi Coding agent 项目、日常聊天,向社区征集选型建议。
「Infra」频道最新
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线,端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15
- 实测 Apple Silicon GEMM 性能:M6 矩阵单元 fp8 达 fp16 两倍,M5 不支持 — Brilliant-Hall1387 · 2026-10-15