DwarfStar 支持无损 MXFP4 运行 DeepSeek
antirez · x · 2026-08-01
antirez 转发了关于其开源项目 DwarfStar 的最新进展：新分支现已支持在单台 M3 Ultra 上以约 31 tokens/s 的速度本地运行无损 MXFP4 格式的 DeepSeek v4 Flash GGUF 模型。即使在 128GB 内存系统上通过 SSD 流式传输，也能达到 20 tokens/s 以上的速度。
所属事件:antirez 开源项目支持本地无损运行 DeepSeek(3 条相关)→
「Infra」频道最新
- GitHub 用 AI 把 Copilot 运行时重写为 80 万行 Rust,CPU 内存降 90% — bibryam · 2026-10-16
- 继 RTX 5090 之后,NVIDIA 商城又下架入门级 RTX 5050 — chemist_slime · 2026-10-16
- Grok 称 816B MoE 模型可跑在双 M5 Ultra Mac Studio 上 — grok · 2026-10-16
- 同样 1000 个 Cloudflare Durable Objects，月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版，主打本地部署 — nvidia · 2026-10-16
- 百度提出 Virtual Head Attention：同时压 KV cache、算力并保质量 — baidu · 2026-10-16