draginol 实测 RTX Spark 本地跑大模型远胜游戏本
开发者 Brad Wardell(draginol)于 10 月 19 日连续发布多条实测,展示 NVIDIA RTX Spark N1X 在 Surface Laptop Ultra 上的本地大模型推理表现,并给出明确结论:该设备在本地 AI 推理任务上远超游戏笔记本电脑。
已确认
- 测试硬件为 Surface Laptop Ultra 搭载 NVIDIA RTX Spark N1X:6144 核 Blackwell RTX GPU、20 核 CPU、64GB 统一内存,运行 Windows。
- Gemma 12B(Q4KM):prefill 1522 tok/s、decode 31.1 tok/s;另一条帖子给出 Gemma 4 12B 解码 31.6 tok/s。
- Qwen 3.8 27B(draginol 称其为个人首选模型):普通测试解码 19.3 tok/s,Extended 模式下 20.7 tok/s,测试题目准确率 100%。
- draginol 的总体结论:RTX Spark(DGX Spark 级外接设备)本地 AI 推理性能碾压游戏本;游戏本既跑不好大参数模型,跑小模型又不划算。
为什么重要
- 这组测试给出了 RTX Spark 类统一内存设备跑 27B 级主流模型的可用性证据:20 tok/s 左右的解码速度已具备日常交互体验,64GB 统一内存让 27B 模型可完整本地部署。
- draginol 同时提醒预算导向用户:若只需 4B–12B 小模型完成日常任务,Qualcomm、AMD 或 Intel 的 NPU 方案成本远低于游戏本,性价比更高。
- 他在帖子中主动邀请有疑问者在 X 上直接交流,测试数据均为其本人公开实测,可作为消费级本地 AI 硬件选购参考。
2026-10-19 ~ 2026-10-19 · 7 条相关
一手来源
- Qwen3.8 27B 本地实测:RTX Spark 上解码 19.3 tok/s、准确率 100% — draginol ·
- 实测:NVIDIA RTX Spark 本地 AI 性能碾压游戏本 — draginol ·
- 实测:RTX Spark 跑 27B 模型尚可,游戏本不适合本地 AI — draginol ·
- Surface 上 RTX Spark 实测 Gemma 4 12b:解码 31.6 tok/s — draginol · 2026-10-19
- 【源头】Qwen3.8 27B 本地实测:RTX Spark 上解码 19.3 tok/s、准确率 100% — draginol · 2026-10-19
- Qwen 3.8 27B 实测登陆 NTX Spark:Surface Laptop Ultra 本地跑主流模型 — draginol · 2026-10-19
- 【源头】实测:NVIDIA RTX Spark 本地 AI 性能碾压游戏本 — draginol · 2026-10-19
- 【源头】实测:RTX Spark 跑 27B 模型尚可,游戏本不适合本地 AI — draginol · 2026-10-19
- 博主:跑 4B-12B 小模型,NPU 方案比游戏本便宜得多 — draginol · 2026-10-19
另有 1 条近重复转述:draginol