单卡 3090 本地跑 DeepSeek V4.1 Flash 达 20 tokens/s

开发者 casperhansen 展示在单张 RTX 3090 加 64GB 内存的配置上，以 20 tokens/s 的速度本地运行 DeepSeek V4.1 Flash 1017，且实现零质量损失的量化，背后有官方开源推理栈加持。他还表示若再加 64GB 内存，速度还可再翻倍，展示了消费级硬件运行该模型的可能性。

2026-11-12 ~ 2026-11-12 · 3 条相关

• DeepSeek V4.1 Flash 单卡 3090 跑出 20 tok/s，官方推理栈开源加持 — casper_hansen_ · 2026-11-12
• 单卡 3090 跑 DeepSeek V4.1 Flash 达 20 tokens/s,加 64GB 内存可再翻倍 — casper_hansen_ · 2026-11-12

另有 1 条近重复转述:casper_hansen_