DeepSeek V4 Flash 0731 的 Unsloth 动态量化版本发布
danielhanchen · x · 2026-08-01
Unsloth 为 DeepSeek V4 Flash 0731 发布了多款动态量化（UD）版本，以满足不同显存环境的本地部署需求。
主要包含从 83GB 到 162GB 不等的多个版本：其中 162GB 的 UD-Q8KXL 版本可实现完全无损，而 97GB 的 UD-Q2KXL 版本仍能保留 79% 的性能表现。
所属事件:Unsloth发布DeepSeek V4 Flash 0731量化版，支持本地部署(6 条相关)→
「Infra」频道最新
- 推理非投机：Token 消费不同于泡沫期硬件囤积 — AccBalanced · 2026-08-26
- 高通 Oryon CPU 跑 5GHz，FlexCache 助力 Agent — davemccollough · 2026-08-26
- 买本地跑模型的机器前，先问 AI 你的具体需求 — cocktailpeanut · 2026-08-26
- 配置变更导致 17% 进程崩溃，重试浪涌引发连锁事故 — techNmak · 2026-08-26
- 遥测服务致 K8s 控制平面过载，OpenAI 全线宕机复盘 — techNmak · 2026-08-26
- 17%会话进程瞬间掉线引发级联故障，Discord宕机复盘 — techNmak · 2026-08-26