antirez 开源 ds4：跨 Metal 与 CUDA 的 DeepSeek 本地推理引擎
antirez · github · 2026-08-02
ds4 是由知名程序员、Redis 作者 antirez 开发的开源本地推理引擎，专为 DeepSeek 4（Flash 和 PRO 版本）打造。
- 硬件支持：跨平台支持 Apple Metal（M系列芯片）、NVIDIA CUDA 以及 AMD ROCm，覆盖了主流的端侧与桌面端 GPU 生态。
- 开发语言：使用底层且高效的 C 语言编写，追求极致的推理性能。
- 项目热度：目前在 GitHub 上已获得近 2 万 Star。
「Infra」频道最新
- 作者实测 2×GB10 本地调优 GLM-5.3-Flash：解码速度提升近 20% — EAccelerate_42 · 2026-10-16
- 开发者用3台DGX Spark组本地集群跑GLM-5.3-Flash,配代理均衡日生175万token — Teknium · 2026-10-16
- Optuna 作者秋叶哉：花3亿日元调2个超参的时代，BO/HPO 还有何用武之地 — Stefania_druga · 2026-10-16
- Amazon 发布生产级 RAG 缓存方案：逐请求校验证据复用，零无效命中 — _reachsumit · 2026-10-16
- LinkedIn 推出 TransX:推荐系统序列转导框架,CTR 提升 6.02% — _reachsumit · 2026-10-16
- llama.cpp 新 PR 优化 AVX2 分块累加器,纯 CPU 推理再提速 — jacek2023 · 2026-10-16