双机互联跑DeepSeek：实测可达40 tok/s
Teknium · x · 2026-08-09
开发者 Teknium 分享了 NVIDIA DGX Spark 的本地部署实测数据。通过一根线缆连接两台 Spark 设备，在运行经过去审查处理的 DeepSeek 模型时，无需特定加速框架即可获得约 40 tok/s 的推理速度，实现了完全本地且私密的大模型推理。他同时期待未来的 Spark 2 能够配备 512GB 的大内存。
所属事件:双Spark本地跑DeepSeek去审查版，速度达40 tok/s(3 条相关)→
「Infra」频道最新
- Tobi 开源 walgit：无数据库的单二进制 Git 服务器 — jevon · 2026-08-24
- s3collections：用S3构建分布式系统持久化数据结构 — andersonbcdefg · 2026-08-24
- 预测市场：年底前美一州实施数据中心禁令概率 68% — Polymarket · 2026-08-24
- Ramp 用本地模型省钱，引发业界对 AI 成本反思 — annetgriffin · 2026-08-24
- GitHub Actions 额度耗尽，是时候迁移到自建 VPS 了吗？ — MicahBerkley · 2026-08-24
- Ubuntu 计划成为 RISC-V CPU 的参考操作系统 — bookwormengr · 2026-08-24