RTX Spark 18C 实测对比 M5 Pro/Max:Prompt 处理快 32%,解码反输
Temporary-Size7310 · reddit · 2026-11-23
一份 Qwen3.8 27B(NVFP4/INT4)在 RTX Spark 18C 与 Apple M5 Pro/Max 上的实测对比:
- Prompt 处理:Spark 大幅领先且大上下文下稳定(TRT-LLM-EDGE 下 2k-4k token 达 1,098 tok/s,比 M5 Max 快 32%;60k token 时 888 tok/s,约为 M5 Max 的两倍)
- 解码:主要受内存带宽限制,与 llama.cpp 持平或略逊,推测 Apple 侧占优(暂无 MLX 数据点);文本生成上 M5 Max 开投机解码可追平 Spark(31.1 vs 31.7 tok/s),不开则两款 Mac 领先(18.2/16.5 vs 15.7 tok/s)
- TRT-LLM-EDGE 比 llama.cpp 更省电;最低电源模式下 tg 稳定但 pp 下降
- 游戏性能约 4070 移动版/5060 移动版/3060 桌面级,比 5070 移动版低 10-15%(附 3DMark 数据)
- 特定条件下可实现 eGPU(Level1Techs 论坛案例)
作者欢迎社区补充 MLX 全链路实测数据。
「Infra」频道最新
- Bloomberg:美国 90GW 自备电厂数据中心计划,仅 2% 落地 — rohanpaul_ai · 2026-11-23
- Bittensor 子网 92 号称产出 200 倍速于 LLM 的 JEV 决策模型 — markjeffrey · 2026-11-23
- Vercel CEO 警告:「免费 ZDR 隐身模型」疑为国家级数据窃取通道 — AccBalanced · 2026-11-23
- 联想企业级 AI 基础设施销售增 200%,增速首次超过云巨头 — shashib · 2026-11-23
- 澳情报机构将数据中心所有权列为外国干预风险 — rohanpaul_ai · 2026-11-23
- Rust 写的 GGUF 引擎 RustingStrata 1.3.0:大模型显存不够也跑得动 — Serious_Scarcity7818 · 2026-11-23