DGX Spark 本地跑大模型实测：DeepSeek V4 Flash 夺魁
andersonbcdefg · x · 2026-08-03
一位开发者分享了在 NVIDIA DGX Spark（128GB内存）上实际部署和运行主流大模型的测试结果与排名。
- 第一名：DeepSeek V4 Flash 0731。采用 3bit 量化，运行速度为 16.5 tok/s。虽然速度最慢，但它是 128GB 显存/内存下能装载的最大参数模型（284b 总参/13b 激活），在处理复杂问题时具备最强的“脑力”。
- 第二名：Laguna S 2.1。采用 NVFP4 量化，速度 19.8 tok/s（代码任务可达 37 tok/s）。该模型在长周期的 Agent 任务中表现最可靠，能够自主建立待办事项列表并追踪进度，不会在长上下文中丢失线索。
不过，原推被另一位网友引用吐槽，认为这种繁琐的折腾反而成了“千万别买 DGX Spark”的绝佳反向广告。
所属事件:DeepSeek V4 Flash 本地部署潮(26 条相关)→
「Infra」频道最新
- 同样 1000 个 Cloudflare Durable Objects，月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版，主打本地部署 — nvidia · 2026-10-16
- 百度提出 Virtual Head Attention：同时压 KV cache、算力并保质量 — baidu · 2026-10-16
- DuoDiscover 让 Agent 自建快速评估代理，TPU 内核提速 2.68 倍 — berkeley_ai · 2026-10-16
- Google 将 2026 年资本开支上调至最高 2050 亿美元 — emmanuelvivier · 2026-10-16
- Google 开源 AX:像 Kubernetes 一样编排数十亿 Agent 任务 — thisdudelikesAI · 2026-10-16