16 个本地模型在 Mac mini M6 32GB 跑分：最快约 64 tokens/秒
JeremyCMorgan · x · 2026-10-20
Hans-Dieter Zucht 发布了一份 Mac mini M6(32GB)本地 LLM 解码速度实测：在 LM Studio 中测试 16 个本地模型，对比 llama.cpp、MLX 与 Splash 投机解码三种方案，最快模型散文生成达到约 64 tokens/秒。
- 测试于 2026 年 10 月 3-4 日进行，跑分过程中 Mac mini 调压电路温度达到 95°C(最低风扇转速下)。
- 项目在 GitHub 开源(MIT 协议)，附原始测试数据和 benchspeed.py 脚本，方便他人在相同硬件上复测。
- 对关注 Apple Silicon 本地部署和投机解码收益的开发者是难得的同硬件横向数据。
「Infra」频道最新
- Business Insider 曝亚马逊 GPU 仓库积压，AWS 今年豪掷 2200 亿美元转负现金流 — SumitGup · 2026-10-20
- 中国上半年弃风弃光 360 度电太瓦时，够法国用十个月 — ccerrato147 · 2026-10-20
- Bittensor 子网挖矿 root 网络，88 Root 验证表现居首 — const_reborn · 2026-10-20
- AMD GAIA 0.25 发布:Ryzen AI 本地智能体体验多项改进 — Fcking_Chuck · 2026-10-20
- SGLang 推出低延迟模式:GB300 提速 1.38×,MI355X 提速 1.56× — xiaosun86 · 2026-10-20
- PyTorchCon 北美大会圣何塞开幕,七大技术轨道覆盖全栈 — PyTorch · 2026-10-20