antirez 用双 MacBook 经 RDMA 本地跑 DeepSeek v4.1 Flash
Redis 作者 antirez 展示在 128GB 内存的 M5 Max 上通过 DwarfStar 本地运行 DeepSeek v4.1 Flash,配合 SSD 专家流式加载,速度出乎意料,单机可达约 15 tokens/s。他进一步将两台 MacBook 通过 RDMA 做张量并行(每台承担 50% 计算),将推理速度提升至 25 tokens/s,展示了消费级硬件跑大模型的可行性。
2026-09-11 ~ 2026-09-11 · 3 条相关
- antirez 在 128GB M5 Max 上跑 DeepSeek v4.1 Flash,SSD 流式加载快得出乎意料 — antirez · 2026-09-11
- antirez 双 M5 Max 经 RDMA 跑 DeepSeek v4.1 Flash,达 25 tokens/s — antirez · 2026-09-11
- antirez 双 MacBook 经 RDMA 跑 DeepSeek v4.1 Flash 达 25 token/秒 — antirez · 2026-09-11