Kimi K3 本地跑分传闻
Stefania_druga · x · 2026-07-18
转推内容在猜测 **Kimi K3** 的本地部署门槛：按传闻参数量估算，可能需要 **4 台 512GB M3 Ultra Mac Studio** 才能跑起来，总内存约 **2TB**，并配合 **MTP + Tensor Parallelism**、通过 **Thunderbolt 5 的 RDMA** 做并行。 原帖还提到，若权重落地后，作者会在本地平台上放出完整 benchmark；目前只是基于 rumor 的预估，认为在本地可能能跑到 **30+ tok/s**，而前向预填充会偏慢，但如果未来有 **512GB M5 Ultra**，预填充速度可能提升约 **5 倍**。