M4 Pro 48GB 本地跑 Qwen3.8 27B,求最优配置
9kSs · reddit · 2026-10-25
Reddit 用户询问在 M4 Pro 48GB Mac 上运行 Qwen3.8 27B 的最佳方案,希望在吞吐量（tps）、首 token 延迟、上下文长度和留给其他任务的内存余量间取得平衡。评论区对 MTP、MLX、量化方案看法不一,发帖人明确要求推荐方案不低于 10 tps。
「Infra」频道最新
- 字节阿里腾讯狂买 300 万张 Nvidia RTX PRO 5500,总价超 350 亿美元 — Miles_Brundage · 2026-10-25
- Nebius OpenRouter 日处理量破 67B tokens,但同业体量仍是数倍 — AccBalanced · 2026-10-25
- 研究揭秘：开源模型推理市场存在类似金融「幌骗」的价格操纵 — AccBalanced · 2026-10-25
- EmbeddedLLM 获赠 AMD MI350X 服务器，推进 vLLM ROCm 优化 — AccBalanced · 2026-10-25
- 比利时旧煤电厂将装 106 座 Tesla Megapack，2027 年投运 — XFreeze · 2026-10-25
- 用两张矿卡 CMP 170HX 跑 Qwen 3.8 Flash,作者公开优化配置 — leonbollerup · 2026-10-25