DeepSeek V4 量化版本出炉,83GB 显存即可运行
QuixiAI · x · 2026-08-02
Unsloth 发布了针对 DeepSeek V4 Flash 0731 的 UD 量化版本。其中 162GB 的 Q8KXL 版本可实现完全无损,而最低仅需 83GB 显存的 IQ1S 版本仍能保留 73% 的性能。此外,97GB 的版本可达到 79% 性能,为不同显存条件的本地部署提供了极具参考价值的选项。
所属事件:Unsloth发布DeepSeek V4 Flash 0731量化版,支持本地部署(6 条相关)→
「Infra」频道最新
- 推理非投机:Token 消费不同于泡沫期硬件囤积 — AccBalanced · 2026-08-26
- 高通 Oryon CPU 跑 5GHz,FlexCache 助力 Agent — davemccollough · 2026-08-26
- 买本地跑模型的机器前,先问 AI 你的具体需求 — cocktailpeanut · 2026-08-26
- 配置变更导致 17% 进程崩溃,重试浪涌引发连锁事故 — techNmak · 2026-08-26
- 遥测服务致 K8s 控制平面过载,OpenAI 全线宕机复盘 — techNmak · 2026-08-26
- 17%会话进程瞬间掉线引发级联故障,Discord宕机复盘 — techNmak · 2026-08-26