Atomic 发布 14 个 DeepSeek V4 Flash 量化版，主推 128GB 机器
testingcatalog · x · 2026-08-04
Atomic 在 Hugging Face 上放出了 DeepSeek-V4-Flash 0731 的 14 种 GGUF 量化版本，从无损 BF16 到 1-bit 都有覆盖。
配图给出了 38 个 GGUF 量化方案的体积/质量对比：这是一个 284B 参数的 MoE 模型，且官方 checkpoint 已做过量化感知训练。作者明确推荐 AD-IQ2M 作为 128GB 硬件上的最佳测试版本，并称它与原版在 token 选择上的一致率达到 83.6%。
所属事件:Atomic 推出 14 种 DeepSeek V4 Flash 量化版本(2 条相关)→
「Infra」频道最新
- Ibiden 的 AI 基板涨价效应，成了财报里的非对称看点 — tengyanAI · 2026-08-04
- OpenAI 和 Anthropic 股权正在抬高大科技报表利润 — Kr00ney · 2026-08-04
- Menlo 说 AI 进入第二阶段，机会在基础设施 — mmurph · 2026-08-04
- 播客称 AI CapEx、算力紧缺正挤压半导体链条 — BenBajarin · 2026-08-04
- MiniMax H3 开权重本地跑，L40S 上把 32 分钟压到 7.2 分钟 — ashishsanu · 2026-08-04
- Fluidstack 将 AI 基础设施晚宴带到奥斯汀并继续招聘 — MxMnr · 2026-08-04