开发者让超大 DeepSeek 模型跑进消费级设备
DeepSeek-V4.1-Flash 的端侧部署接连出现突破:推主 @0xBakeer 演示在单台 128GB 内存的 NVIDIA DGX Spark 上加载 510GB 模型,开启 256k 上下文与思考模式;开发者 mfranzon 则在 GitHub 开源了在 24GB 内存 MacBook(Apple M5)上运行该模型的项目,通过 SSD 流式加载跑出约 1.36 tok/s 的速度。
2026-09-14 ~ 2026-09-15 · 2 条相关
- 510GB 模型跑进 128GB 小机器:DeepSeek 新模型端侧加载妙招 — pbaylies · 2026-09-14
- 748B DeepSeek-V4.1-Flash 塞进 24GB Mac:SSD 流式跑出 1.36 tok/s — solyarisoftware · 2026-09-15