Mac 本地跑开源模型调查:27B 稠密模型仍是编码首选

DotaMate · reddit · 2026-10-22

开发者在 Reddit 发起讨论,询问在 MacBook(Apple Silicon)上本地推理的主力模型选择:Qwen3.8-Flash-Next、Qwen 35B、稠密 27B,还是 Nemotron Bolt。作者自己写代码时反复回到 27B 稠密模型。他正在开发 Apache 2.0 开源项目 Kapitsa(支持 M1 到 M5 Ultra 全系芯片的本地推理优化),并在自己的 M4 Pro 上拿到了 Qwen 35B/27B 的解码与预fill SOTA 性能。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →