为本地跑 LLM 买 Mac 发愁?开发者做了个实时配置器 modelfit.io
WecK0 · reddit · 2026-10-20
作者买 Mac mini 时纠结配置,索性做了 modelfit.io——专为准本地 LLM 用户设计的 Mac 配置器:选机型和配置后,实时显示内存能装下哪些模型、各自预估速度。速度估算基于真实 llama-bench 数据拟合的模型,每个数字都标注典型误差;Apple 官方价格每日更新。截图示例:M5 Pro 48GB(307 GB/s 带宽)可跑目录中 156 个模型里的 95 个,最大支持 Mixtral 8x7B,推荐 Qwen3.6 35B-A3B 约 98 tok/s;加 $200 升级 20 核 GPU 生成速度不变、prompt 读取快约 21%。作者本人在 M6 32GB 与 M5 Pro 48GB 之间选择了后者。
「Infra」频道最新
- 自托管 14B 模型审合同:准确率仅差 2 个点,成本降到 Claude 的 1/27 — Broad_Breakfast_1172 · 2026-10-20
- 东北大学发布 EC2-Bench:系统评测 LLM Agent 端云协同执行权衡 — NortheasternUniversity1923 · 2026-10-20
- 全行业争模型霸主,但没人问谁控制电力:五层栈中模型层杠杆最小 — r0ck3t23 · 2026-10-20
- 租 GPU 已不稀缺:五起收购揭示 Neocloud 靠软件筑护城河 — FinanceYF5 · 2026-10-20
- Neocloud 竞争新逻辑:GPU 不再稀缺,竞相收购软件筑壁垒 — FinanceYF5 · 2026-10-20
- 黄仁勋批德国:科技最先进国家之一却大幅落后,别想太多快干活 — 2C_ornot2C · 2026-10-20