4 张 RTX 3090 服务器选型：继续跑 Qwen 27B 还是上 Next Flash
Zyj · reddit · 2026-09-19
作者计划把服务器（Threadripper Pro 5955WX、128GB 八通道 DDR4）从两张 RTX 3090 扩到四张，目前用 vLLM 跑 Qwen 3.8 27B Q8 服务少量用户。
纠结点是：继续跑 Qwen 3.8 27B Q8、用富余显存并行跑些小模型，还是换 Qwen 3.8 Next Flash Q4/Q5（显存可容纳，但不确定是否全面优于 27B 版）。作者还提到 Club 3090 多卡文档如今已严重过时，并向社区征集方案。
「Infra」频道最新
- 缓存命中率的定义、公式与示例：优化延迟的第一指标 — blaizedsouza · 2026-09-19
- MLC 推出 Blackwell GPU 执行模型教程：线程层级、内存与 TMA 一文讲透 — blaizedsouza · 2026-09-19
- 烧掉 15 亿 token 后复盘：Rankpilot 把 API 月成本砍掉 65% — Careful-Key-1958 · 2026-09-19
- SpaceX CFO：明年发射首批轨道算力卫星，太阳成免费电站 — XFreeze · 2026-09-19
- Vercel 网关开源模型 token 占比创纪录达 78.4% — charles_irl · 2026-09-19
- Awesome MCP Servers 索引 9.5 万星,收录所有生产级 MCP 服务器 — mdancho84 · 2026-09-19