SlimServe 让老款 3090 高速跑 Qwen3.8-Flash-Next

开源推理项目 SlimServe（基于 ds4/vllm）展示了用老款 RTX 3090 高效运行 Qwen3.8-Flash-Next 的成绩。QuixiAI 称四张 3090 跑 NVFP4 量化版单卡并发 1 约 120 tok/s；Eric Hartford 复盘称 8 张 3090（共 192GB 显存、无 FP8、无 NVLink）在 262K 上下文下解码可达 1200 tok/s，显示消费级老硬件仍具可观推理潜力。

2026-09-06 ~ 2026-09-07 · 3 条相关

• SlimServe 让 8 张 3090 跑 Qwen 3.8 Flash Next,解码达 1200 tok/s — QuixiAI · 2026-09-06
• 8 张 RTX 3090 跑 262K 上下文,Qwen3.8-Flash-Next 达 1200 tok/s — QuixiAI · 2026-09-06
• Quad 3090 跑 Qwen3.8-Flash-Next-NVFP4,单卡 120 tok/s — QuixiAI · 2026-09-07