求 DGX Spark 平替:想用千元级低功耗方案跑 15-20GB 小模型
fuse1921 · reddit · 2026-09-02
一位拥有 4×3090 本地集群的用户发帖求助:主机的 PCIe 通道已用尽,不想为一套 embeddings/rerank 等内存型小模型(约 15-20GB 显存需求)再组一台完整机器,目前在游戏机的 4090 上跑。
他想找类似 NVIDIA DGX Spark 但便宜(约 1000 美元级)、低功耗、开箱即用的推理方案,排除 VPS(坚持本地),也担心纯 CPU 太慢。求社区推荐现成硬件。
「Infra」频道最新
- SkyPilot 推出 Agent Sessions:断线后编码 Agent 继续跑在自家 K8s 上 — skypilot_org · 2026-09-03
- 游戏显卡跑赢 hipBLASLt:博客详解 GPU 矩阵乘法优化 — Moist_Weird_42067 · 2026-09-03
- Modal 实习生复盘：环境级预算设计与 agent RL 后训练实践 — dejavucoder · 2026-09-03
- 边缘 AI 杀不死云端 Capex：五大论据反驳云杀手论 — yangastas_paradise · 2026-09-03
- 用自托管 Immich 替代 Google Photos,博主详解省钱方案 — speckx · 2026-09-03
- Microduck 积压非深圳产能问题,而是注塑模具尚未完工 — _akhaliq · 2026-09-03