antirez:DwarfStar 已能从 safetensors 直接推理 Kimi K3.1 PRO
antirez · x · 2026-11-08
SQLite 作者 antirez 透露,他的 DwarfStar 项目 kimi-k3 分支现在可以直接从 safetensors 权重加载并以 SSD 流式读取的方式运行 Kimi K3.1 PRO 推理。他坦承速度较慢,但已足以胜任 QA 类任务。这是传统桌面软件老炮玩转本地大模型推理的一个有趣信号。
「Infra」频道最新
- HF 免费账户可白嫖 2 个 ZeroGPU Space,日限 5 分钟 GPU — Fine_League311 · 2026-11-08
- 开源项目 kmorph 让 Linux 内核崩溃后无需重启,2 秒内恢复服务 — kingslyj · 2026-11-08
- 单位投入产出降 63%:METR 数据显示 AI 进步变快但研发烧钱更快 — kimmonismus · 2026-11-08
- 开源 blank:本地优先 agent 框架,隔离 worktree 解决并行子代理冲突 — Big_Veterinarian7479 · 2026-11-08
- Google 拟 2028 年前投 150 亿美元建马来西亚数据中心 — YvesMulkers · 2026-11-08
- 实测:任意网页可操控你本机默认配置的 LLM 推理服务器 — FeydRowan · 2026-11-08