Moonshot Kimi K3 本地部署门槛极高

Moonshot 发布的 Kimi K3 模型引发了关于本地部署门槛的讨论。该模型拥有高达 2.8T 的参数量，在进行 MXFP4 推理时需要约 1.4TB 的显存。这意味着即便使用多台配备 96GB RTX PRO 6000 显卡的高端工作站也难以满足其运行需求。有 Reddit 网友将其形容为“橱窗里的 F1 赛车”，指出普通本地设备几乎无法驾驭该模型。

2026-07-28 ~ 2026-07-28 · 2 条相关

• Moonshot 的 Kimi K3 体量大到多卡本地工作站都难以驾驭 — Ok-Shower7286 · 2026-07-28
• Kimi K3 推理需 1.4TB 显存，远超 96GB RTX PRO 6000 — HanchungLee · 2026-07-28