Moonshot 的 Kimi K3 体量大到多卡本地工作站都难以驾驭
Ok-Shower7286 · reddit · 2026-07-28
Reddit 上有人形容 Moonshot 的 Kimi K3 像“橱窗里的 F1 赛车”，核心原因是本地几乎跑不动。
发帖者说，即便有 2–4 台 RTX 6000 Blackwell 的本地工作站，想原生运行一个 1.56TB / 104B active 的模型也几乎不现实。他在问：有没有人想办法“破解”它，或者有没有数据中心级算力/赞助把它跑起来。
他自己的思路只有两种：要么亲手把模型裁剪下来，要么等别人做蒸馏。
所属事件:Moonshot Kimi K3 本地部署门槛极高(2 条相关)→
「模型」频道最新
- Unsloth 推出 Kimi-K3 的 GGUF 版本便于本地运行 — synth_mania · 2026-07-28
- Kimi K3 权重今日放出，前沿智能开始可被拥有 — woosuk_k · 2026-07-28
- 梗图把当前 LLM 形容成拨号上网一样慢 — breath_mirror · 2026-07-28
- Grok Voice 被宣传为日常工作里比打字快 3 倍 — Daniel_Farinax · 2026-07-28
- Arav Srinivas 称 GLM 被低估，700B 规模接近 Opus — AravSrinivas · 2026-07-28
- Kimi K3 复现 RLVR 研究结论且不乱下结论 — infoxiao · 2026-07-28