antirez:DwarfStar 已能从 safetensors 直接推理 Kimi K3.1 PRO

antirez · x · 2026-11-08

SQLite 作者 antirez 透露,他的 DwarfStar 项目 kimi-k3 分支现在可以直接从 safetensors 权重加载并以 SSD 流式读取的方式运行 Kimi K3.1 PRO 推理。他坦承速度较慢,但已足以胜任 QA 类任务。这是传统桌面软件老炮玩转本地大模型推理的一个有趣信号。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →