实测 RTX 5000 Pro 跑 Qwen3.8 性价比炸裂
Valuable-Run2129 · reddit · 2026-08-24
用户分享其 RTX 5000 Pro (48GB VRAM) 运行 Qwen3.8-27B 的惊人实测数据：解码速度达 130 t/s，预填充 4000 t/s，支持 5 并发。配合 SGLang 可将前缀卸载至存储，避免子任务重复计算。作者认为该模型大幅提升了本地算力价值，甚至媲美 Claude 订阅体验，导致二手显卡价格翻倍。
「Infra」频道最新
- 英伟达服务器涨价 15%，云厂商如何向下游转嫁成本？ — AccBalanced · 2026-08-24
- 小米本地 AI 主机曝光：首发 6nm 晶圆键合 NPU 芯片 — teortaxesTex · 2026-08-24
- Google Gemma-4-26B 成功移植 Apple Silicon，显存占用减半 — jasonkneen · 2026-08-24
- 主权 AI 基础设施缺口达 1.5 万亿，硅谷主导地位终结 — mikeflache · 2026-08-24
- 求助：如何为 Deepseek v4 Flash 集成视觉编码器？ — StartupTim · 2026-08-24
- 曝 Mac 本地 Agent 运维方案：合盖不休眠与云端 Mac 集群 — tedddyoweh · 2026-08-24