卖掉 5090 换多机？一公司主拆解本地推理硬件扩展五套方案
Anarchaotic · reddit · 2026-10-27
一位经营小公司的 Reddit 用户面临选择：手握 5090 FE + 14700K + 96GB 内存工作站，以及一台 Strix Halo 128GB（Framework Desktop）推理服务器，跑 Qwen 本地模型服务客户（因数据敏感不能用云模型）。现在 GPU 涨价，他想卖掉 5090 重组硬件，目标是支持至少 3 个并发用户、每人 2-3 个并行会话、跑 200k 上下文的 Qwen 级模型。他列了 5 个方案并逐一算账：再买一台 Strix Halo（5090 的钱能买两台）、256GB Mac Studio、5070 Ti + 现有 5090 机器改服务器、4 张 Radeon R9700（需换主板电源）、DGX Spark（因溢价太高直接排除）。当前 Strix Halo 实测约 1400 prefill / 50 tok/s 生成，够用但难扩展。评论区可重点关注 Strix Halo vs Mac Studio 的统一内存路线之争。
「Infra」频道最新
- RTX 5080 十天涨价 40%:1658 美元飙至 2318 美元 — Frizzy-MacDrizzle · 2026-10-27
- 12GB 显存实测:不设 VRAM 上限,出图从 24 秒变 11 分钟 — Impossible-Mail-4619 · 2026-10-27
- Neon 自吃狗粮：文档搜索全部改用自家 Lakebase Search 等 AI 组件 — matei_zaharia · 2026-10-27
- PyTorch 实测:ExecuTorch+Arm SME2 让端侧流式语音识别提速 2.12 倍 — PyTorch · 2026-10-27
- NVIDIA 演示投机解码加速 Jetson 端侧 LLM 推理 — NVIDIA Developer · 2026-10-27
- 单 GPU 收入可随降价上升：Gavin Baker 拆解 token 价格与利润率的算术 — GavinSBaker · 2026-10-27