antirez 实现 DeepSeek v4 Flash 无损 MXFP4 本地运行
antirez · x · 2026-08-01
知名开发者 antirez 宣布，其 DwarfStar 分支现已支持运行他在 Hugging Face 上发布的 DeepSeek v4 Flash 无损 MXFP4 GGUF 模型。
该方案在 128GB 内存系统上，即使采用 SSD 流式读取，也能实现超过 20 tokens/s 的推理速度。这为在本地无量化运行真实 DS4F 权重提供了高效的测试途径。
「Infra」频道最新
- DeepSeek V4 Flash 本地跑分追平 5 个月前顶级模型 — joorklee · 2026-08-01
- 新方法实现MoE模型提前路由，大幅优化端侧流式推理I/O瓶颈 — dai_app · 2026-08-01
- 5TB数据存储于微小玻璃片，微观存储技术新突破 — TansuYegen · 2026-08-01
- 开源引擎Waste：29GB内存即可跑Kimi K3 — galapag0 · 2026-08-01
- 3张2080Ti跑Qwen 27B达55tps，最佳配置分享 — AccountGotLocked69 · 2026-08-01
- DeepSeek-V3训练仅用18万GPU小时,极致摊薄MoE算力成本 — teortaxesTex · 2026-08-01