antirez 的 DwarfStar 可本地推理 Kimi K3.1 PRO

Redis/SQLite 作者 antirez 透露，其 DwarfStar 项目的 kimi-k3 分支现可直接从 safetensors 权重加载，以 SSD 流式读取方式本地推理 Kimi K3.1 PRO。实测生成速度约 1 token/秒，已可交互式使用。他补充了硬件门槛：达到该速度至少需要 128GB 内存，若有 512GB 内存体验会好得多。

2026-11-08 ~ 2026-11-08 · 4 条相关

• antirez:DwarfStar 已能从 safetensors 直接推理 Kimi K3.1 PRO — antirez · 2026-11-08
• DwarfStar 支持 SSD 流式加载 safetensors 直接推理 Kimi K3.1 PRO — Goodnesmbakara · 2026-11-08
• antirez 实测：Kimi K3.1 本地推理 1 token/秒可交互使用 — antirez · 2026-11-08
• antirez 补充：本地跑 Kimi K3.1 生成 1 token/秒需 128GB 内存 — antirez · 2026-11-08