DeepSeek V4 可在本地运行
solyarisoftware · x · 2026-07-16
- `ds4` 是 antirez 做的一个本地推理项目，可以在 **Metal / CUDA / ROCm** 上运行 **DeepSeek V4 Flash**。 - 它是 **原生 C** 实现，不是基于 llama.cpp 的包装层，强调“完全自包含”。 - 支持把 **KV cache 写到磁盘**，以便处理更大的上下文；项目里还内置了 **coding agent**。 - 这条帖子的核心观点是：在笔记本上跑到这种级别的本地模型能力，已经相当惊人。