消费级显卡本地跑 DeepSeek V4.1 Flash：5090 达 27 tok/s

多名开发者展示了 DeepSeek V4.1 Flash 的本地部署实测。casperhansen 在自建 RTX 3090 平台上以约 15 tokens/s 的解码速度运行该模型，整套成本约 2500 美元，称已完全可用；QuixiAI 则在 RTX 5090 上于 256k 上下文达到解码 27 tok/s，并发布了开源推理引擎 QuixiInfer——由 Rust 编写、自带 CUDA kernel、经 CubeCL 编译，不依赖 ggml/llama.cpp，可单卡运行 125B MoE 模型。

2026-11-08 ~ 2026-11-08 · 3 条相关

• RTX 3090 本地跑 DeepSeek V4.1 Flash 达 15 tokens/s,整套约 $2500 — casper_hansen_ · 2026-11-08
• RTX 5090 本地跑 DeepSeek：256k 上下文解码 27 tok/s — QuixiAI · 2026-11-08
• 单卡 5090 跑 125B MoE：QuixiInfer 实测 256k 上下文解码 27 tok/s — QuixiAI · 2026-11-08