一台 DGX Spark 能同时服务多少人？社区征集真实数据
edge_compute_user · reddit · 2026-08-27
Reddit 上有用户发起征集：有没有人用 NVIDIA DGX Spark 单机给多用户做推理服务？希望分享真实可达到的并发规模。
征集的维度包括：所用模型与量化方案、峰值并发用户数、上下文/请求长度、每用户 tokens/sec，以及具体用途。对考虑用 DGX Spark 搭建小型自托管推理服务的团队有参考价值。
「Infra」频道最新
- GPU 租用平台实测：Docker 模板与启动脚本乱象 — big-in-jap · 2026-08-27
- 数据中心是“智能工厂”：能源是新工业血液 — NinaDSchick · 2026-08-27
- 在 Slack 集成 Warp 工厂运行成本监控以优化模型路由 — vikvang1 · 2026-08-27
- Cloudflare Workers 推出细粒度权限控制功能 — dinasaur_404 · 2026-08-27
- Weaviate 1.39 发布：Boost API 与 MMR 多样性检索转正，新增 4-bit 量化 — CShorten30 · 2026-08-27
- Phala 机密 AI 单日计费 token 达 615 亿，DeepSeek 模型占 54% — bgmshana · 2026-08-27