24GB M5 MacBook Air 离线跑 LLM,选哪个 MoE 够快够好
itis_whatit-is · reddit · 2026-09-12
Reddit 用户询问：在 24GB 内存的 M5 MacBook Air 上（完全离线场景），哪个 MoE 或 LLM 跑基础对话既足够快又质量够用？作者自己有 16GB/64GB 的 AI 家庭服务器，但想知道笔记本离线时的合适选择。
「Infra」频道最新
- 玻璃基板无加强筋翘曲改善超2倍，成AI封装新方向 — jwt0625 · 2026-09-12
- d-Matrix 携手 NVIDIA：Raptor XPU 接入 NVLink Fusion 机架级系统 — bookwormengr · 2026-09-12
- 300K 上下文也扛不住大代码库,本地长任务如何自动交接 — Developer-Y · 2026-09-12
- 经济学人:英伟达已成「AI 的中央银行」 — tolugenius · 2026-09-12
- 16GB 显存跑 Qwen3.8 27B:DFlash2 草稿模型实测 60 tok/s — pneuny · 2026-09-12
- DeepSeek v4.1 Flash 本地实测:q2 量化 16 tok/s,工具调用选错率高 — challis88ocarina · 2026-09-12