Qwen3.8 27b 在 M5 Max 128GB 上跑分实测

julianharris · x · 2026-08-16

用户在配备 128GB 内存的 M5 Max 上测试了 Qwen 3.8 27B 模型（bf16，262k 上下文）。使用 oMLX + opencode 栈，bf16 精度下速度为 8t/s，8bit 量化下达到 17t/s。测试显示 CPU 节流明显，用户期待未来 4bit 量化和推测解码能进一步提升速度。

原文链接 →

「Infra」频道最新

• Meta 选择 MLX 做本地推理,Muse Spark Open 登陆 Mac Studio — awnihannun · 2026-10-16
• Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16
• Artificial Analysis 首测 Vera Rubin NVL72:每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16
• Vera Rubin NVL72 实测：每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16
• 英伟达 Vera Rubin NVL72 首批实测：每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16
• Turing Post 盘点 2026 年 14 款开源 LLM 可观测性工具 — TheTuringPost · 2026-10-16

更多「Infra」频道 AI 资讯 →