M5 Max/Ultra 用户实测：低比特 DeepSeek 比 BF16 Qwen 更划算
liuliu · reddit · 2026-11-11
Reddit 用户 liuliu 提醒 M5 Max 128G / M5 Ultra 用户：与其跑 BF16 的 Qwen 3.8 27B，不如用低比特的 DeepSeek 4.1 Flash 1017，理由有四：
- 更省内存：配合 SSD 流式加载，RAM 可压到 50G 仍有 30 tok/s；
- 推理 token 少 5 倍：虽然 4.1 也用不少思考 token，但比 Qwen 3.8 27B 少约 5 倍；
- 接近云端体验：M5 Ultra 上 prefill 4000 tok/s、decode 100 tok/s，相当可用；
- 长上下文不掉性能：上下文拉到 200k400k，智能与速度都稳定。
作者还在帖中征求反驳意见。
所属事件:苹果 M5 Max/Ultra 用户实测：低比特 DeepSeek 优于 27B 稠密模型(2 条相关)→
「Infra」频道最新
- CoRL 会场同址开天然气论坛,主题直指 AI 数据中心供电 — carlosdponx · 2026-11-12
- a16z 播客：Mike Volpi 从 Cisco 70+ 并购经验谈 AI 基建周期 — a16z · 2026-11-12
- AMD 服务器份额年增 6 点,预计 2027 年中营收超 Intel — BenBajarin · 2026-11-12
- 新研究：超大规模数据中心屋顶反光，白天反而降温 1.8-2.2°C — SumitGup · 2026-11-12
- 清华 BaGuaLu-2 把 MoE 激活显存变成运行时控制问题,入选 SC26 — jiqizhixin · 2026-11-12
- antirez 背书:苹果 M5 本地跑低比特 DeepSeek 好过 27B 稠密模型 — antirez · 2026-11-12