DeepSeek V4 Flash 量化实测:低精度版本大幅提速且无损质量
近期有开发者在双 RTX 5090/6000 Pro Blackwell 及 128GB 显存硬件环境下,对 DeepSeek V4 Flash 的 Unsloth Q8 与 Q3 xxs(IQ3XXS)量化版本进行了详细基准测试。结果显示,低精度的 Q3 版本运行速度比 Q8 快出数倍,且能实现翻倍提速,同时保持模型质量基本无损。
2026-08-04 ~ 2026-08-04 · 2 条相关
- DeepSeek V4 Flash 量化版本本地性能实测:Q3 比 Q8 快数倍 — Spicy_mch4ggis · 2026-08-04
- DeepSeek V4 Flash 2-bit 量化版本地跑出 100% SQL 评测 — grumd · 2026-08-04