RTX Spark 对决 M5 Max:本机跑 Qwen 3.8 27B 速度对比
draginol · x · 2026-10-19
作者对比了两台旗舰笔记本本地运行本地用户常用模型 Qwen 3.8 27B 的推理表现。截图显示,NVIDIA RTX Spark N1X(6144 核 Blackwell GPU、64GB RAM)运行 gemma 4 12b 时 prefill 高达 1,636 tok/s、首 token 971ms;而 Apple M5 Max(128GB 统一内存)运行 qwen3.8:27b-mlx 时 prefill 577 tok/s、decode 43.9 tok/s、首 token 1.65s。作者总结:这是一个棘手的结果——M5 Max 带宽更高,但算力明显不及 NVIDIA。
所属事件:RTX Spark 对决 M5 Max:本地跑 Qwen 3.8 27B 实测(2 条相关)→
「Infra」频道最新
- 一个 uv 编译参数让 vLLM 启动提速 14-18%,省 18 秒 — vllm_project · 2026-10-19
- Neocloud 收购潮:接盘的都是外行,同行互买毫无意义 — AccBalanced · 2026-10-19
- Jev Router 实测:编码 agent 自动选开源模型省 67-85% 成本 — HowDevelop · 2026-10-19
- 百度提出Virtual Head Attention:KV缓存省4-7倍,推理零定制内核 — burny_tech · 2026-10-19
- 32GB DDR5服务器内存现货涨幅收窄,存储股单日大跌5-7% — tengyanAI · 2026-10-19
- 约 850 行代码在树莓派上自建 iMessage AI 助手 — lucasgelfond · 2026-10-19