为本地跑 LLM 买 Mac 发愁?开发者做了个实时配置器 modelfit.io

WecK0 · reddit · 2026-10-20

作者买 Mac mini 时纠结配置,索性做了 modelfit.io——专为准本地 LLM 用户设计的 Mac 配置器:选机型和配置后,实时显示内存能装下哪些模型、各自预估速度。速度估算基于真实 llama-bench 数据拟合的模型,每个数字都标注典型误差;Apple 官方价格每日更新。截图示例:M5 Pro 48GB(307 GB/s 带宽)可跑目录中 156 个模型里的 95 个,最大支持 Mixtral 8x7B,推荐 Qwen3.6 35B-A3B 约 98 tok/s;加 $200 升级 20 核 GPU 生成速度不变、prompt 读取快约 21%。作者本人在 M6 32GB 与 M5 Pro 48GB 之间选择了后者。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →