128GB Mac 实测 Qwen 3.8 Flash Next：比 27B 更聪明更快，需约 80GB 内存
julianharris · x · 2026-09-01
Julian Harris 在 MacBook Pro 14" M5 Max / 128GB 上用 MTPLX（面向 Mac 的本地模型垂直方案栈）实测 Qwen 3.8：
- 27B 的吞吐随上下文窗口扩大明显下降；
- Flash Next（"Qwen 4 preview"，MoE 125-a6b 架构 + 4bit 量化 + ngram 缓存）下降幅度小得多，虽然仍不如云端 Opus，但整体更聪明、更快、更高效；
- 该配置约需 80GB 内存，基本只有 128GB Mac 可跑；flash-next 虽支持 offload，但据观察性能会「像石头一样沉下去」。更多细节将在其博客 AI Local 发布。
所属事件:128GB Mac 实测 Qwen 3.8：更强但内存需求高(2 条相关)→
「Infra」频道最新
- 论文：LLM 竞价采购平台可省 10%-71% 推理成本 — _onionesque · 2026-10-18
- 560B MoE 塞进 4 台 DGX Spark:Ling 3.1 Flash 用 llama.cpp RPC 跑通 — BerryBlush_Rogers691 · 2026-10-18
- SGLang Summit 赞助商一周从 11 家涨到 36 家 — ying11231 · 2026-10-18
- Oracle CDS 飙至 300bps 创纪录，被称 AI 交易倒下的第一块多米诺 — arthurcolle · 2026-10-18
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18
- 越狱 PS5 跑 llama.cpp:开源 PS5LM 让主机变身家庭本地 LLM 服务器 — wateriscoding · 2026-10-18