Kapitsa 0.2.26 发布:M5 Max 实测 Qwen 35B 达 346 tok/s
面向 Apple Silicon 的开源推理引擎 Kapitsa(Apache 2.0 许可)发布 0.2.26 版本,作者 Ye 在 2026 款 MacBook Pro M5 Max(128GB)上公布了六大模型的实测跑分数据:Qwen 35B 达到 346 tok/s,180B 大模型可通过 SSD 卸载方式在 48GB 内存的 Mac 上运行,速度约为 61 tok/s,展示了 Mac 本地运行大模型的可行性。
2026-11-02 ~ 2026-11-02 · 2 条相关
- 第 1 集:开源推理引擎 kapitsa 用树形投机解码大幅提升 Mac 本地推理速度(2026-10-24,2 条)
- 第 2 集:Kapitsa 0.2.26 发布:M5 Max 实测 Qwen 35B 达 346 tok/s(2026-11-02,2 条)
- 开源推理引擎 Kapitsa 跑分 M5 Max:35B 达 346 tok/s,180B 上 48GB Mac 跑 61 tok/s — DotaMate · 2026-11-02
- Kapitsa 推理引擎跑分:M5 Max 上 Qwen 35B 达 346 tok/s,180B 用 SSD 卸载 — DotaMate · 2026-11-02