antirez 实测：DeepSeek v4.1 Flash 共享 KV 让本地大预填提速
antirez · x · 2026-09-11
antirez 分享本地推理经验：DeepSeek v4.1 Flash 的 encoder/decoder 共享 KV cache 架构，不仅在预填（prefill，即 LLM 读取阶段）阶段省去计算，还能在本地低显存推理配置下实现非常快的大规模预填。他补充：若 GPU 算力不强（如 M5 Max），完整常驻可能不比 layer-major prefill 快，还会打乱 SSD 流式读取的 experts cache，因此方案「3」对 DGX Spark 可能更有趣，待验证。
所属事件:antirez 在 Mac 上本地跑 DeepSeek v4.1 Flash：单机 15 t/s、双机 25 t/s(12 条相关)→
「Infra」频道最新
- 500 万美元种子轮不够 DeepSeek 训一遍:没 GPU 的 AI 创业只剩三条路 — FinanceYF5 · 2026-10-26
- HBM 需求转向:低端推理砍单,Rubin 将全系 12-high HBM — BenBajarin · 2026-10-26
- CircuitHub 发布工厂级机器人 The Grid，美国产 PCB 提速两倍对标深圳 — garrytan · 2026-10-26
- Ubicloud 发文修复 vLLM 工具调用准确率问题 — petrusenko_max · 2026-10-26
- Meta 批准无投票权 C 类股，2026 年资本开支指引达 1350–1450 亿美元 — thione · 2026-10-26
- Unsloth 发布 MiniMax-M3.1-Flash 量化：2-bit 保留 91.5% 精度，150GB 内存可跑 — danielhanchen · 2026-10-26