实测 RTX 5000 Pro 跑 Qwen3.8 性价比炸裂
Valuable-Run2129 · reddit · 2026-08-24
用户分享其 RTX 5000 Pro (48GB VRAM) 运行 Qwen3.8-27B 的惊人实测数据：解码速度达 130 t/s，预填充 4000 t/s，支持 5 并发。配合 SGLang 可将前缀卸载至存储，避免子任务重复计算。作者认为该模型大幅提升了本地算力价值，甚至媲美 Claude 订阅体验，导致二手显卡价格翻倍。
「Infra」频道最新
- 传 SK 海力士美国建厂或以美方放宽对华设备出口为条件 — pstAsiatech · 2026-10-15
- Perplexity 新 embedding 模型：大模型建索引、小模型做查询 — antoine_chaffin · 2026-10-15
- Unsloth 发布 Nemotron 3.5 本地量化包:Bolt 24GB 内存可跑 — danielhanchen · 2026-10-15
- vLLM-Omni 联手 BFL 与 NVIDIA 上线 FLUX 3 Image Klein 当日支持 — vllm_project · 2026-10-15
- NVIDIA Nemotron 3.5 Super VL 上线 Applied Compute 平台训推 — ypatil125 · 2026-10-15
- CoreWeave 债券收益率破 16%,贷款期限比客户合同长约 2 年 — tengyanAI · 2026-10-15