antirez 用双 MacBook 经 RDMA 本地跑 DeepSeek v4.1 Flash

Redis 作者 antirez 展示在 128GB 内存的 M5 Max 上通过 DwarfStar 本地运行 DeepSeek v4.1 Flash,配合 SSD 专家流式加载,速度出乎意料,单机可达约 15 tokens/s。他进一步将两台 MacBook 通过 RDMA 做张量并行(每台承担 50% 计算),将推理速度提升至 25 tokens/s,展示了消费级硬件跑大模型的可行性。

2026-09-11 ~ 2026-09-11 · 3 条相关