实测：单台 DGX Spark 跑 124B 模型达 38.7 tok/s
AcanthisittaOk1699 · reddit · 2026-08-13
独立测试者 sudoingX 花费一周时间，在单台 DGX Spark 上对 124B 参数模型进行了深度基准测试。
核心测试结果：
- 官方 INT4 量化：正确配置后达到 38.7 tok/s，是测试中最快的路径。
- 社区 GGUF：达到 35.2 tok/s。
- 性能对比：速度是同一台机器上 DeepSeek V4 Flash 表现的 2.4 倍。
测试者最初认为官方量化版本无法在单台 Spark 上运行，但在调整配置后成功运行并更正了结论，表示 Ling-3.0-flash 赢得了在其设备上的永久席位。
所属事件:单台DGX Spark实测124B模型解码速度无损(2 条相关)→
「Infra」频道最新
- AI 热潮蔓延：资本转向押注芯片与数据中心周边供应商 — Polymarket · 2026-08-13
- 极限优化：在 M4 芯片 ANE 上运行 33B 视频生成模型 — antirez · 2026-08-13
- LiteLLM供应链攻击泄密：波及英伟达、亚马逊等2488家组织 — wunderwuzzi23 · 2026-08-13
- 开源工具 Wetty：通过浏览器与 SSH 运行终端模拟器 — tom_doerr · 2026-08-13
- SK海力士砸 381 亿美元在韩国新建两座内存晶圆厂 — Beth_Kindig · 2026-08-13
- 新秀推理引擎 Tokenspeed 获 Qwen3.8 Day-0 支持 — This_Maintenance_834 · 2026-08-13