单 CPU 8.24GB 内存跑通 2.78 万亿参数 Kimi K3

GitHub 上的 OSP 项目演示了一个极端压缩的推理方案：在无 GPU、无 BLAS 库、无任何框架的条件下，仅靠单颗 CPU 和 8.24GB 内存完成 2.78 万亿参数 Kimi K3 的推理。多个账号转发了这一结果，若属实，将展示极端压缩与内存高效推理方案的潜力，不过其真实性与具体细节仍待验证。

2026-09-10 ~ 2026-09-11 · 3 条相关

• 单 CPU 仅用 8.24GB 内存跑通 2.78 万亿参数 Kimi K3 推理 — gekobraa · 2026-09-10
• 2.78万亿参数 Kimi K3 单 CPU 跑通：仅需 8.24GB 内存、零 GPU — udmrzn · 2026-09-11

另有 1 条近重复转述:udmrzn