COLIBRI方案实现25GB内存跑744B大模型

COLIBRI展示了一种突破性的磁盘流式推理方案，成功在仅有25GB内存且无GPU的消费级机器上运行了高达744B参数的GLM-5.2模型。尽管这种极具极客精神的方法运行速度非常缓慢，但它证明了通过技术Hack，普通硬件也能跑起接近前沿的超大规模MoE模型。

2026-07-13 ~ 2026-07-14 · 3 条相关

• 25GB机器跑起GLM-5.2 — paulabartabajo_ · 2026-07-13
• 744B模型可在25GB机器运行 — alexcovo_eth · 2026-07-13
• GLM-5.2的磁盘流式推理方案 — karminski3 · 2026-07-14