开源Colibri让7440亿参数大模型跑在笔记本上

开源纯C运行时Colibri近日展示了惊人的推理优化能力。该项目成功让拥有7440亿参数的混合专家大模型GLM-5.2在普通消费级笔记本上流畅运行，且仅需约25GB内存。这一突破大幅降低了超大规模模型的硬件门槛，使得在本地设备上部署巨型AI成为可能。

2026-07-20 ~ 2026-07-21 · 2 条相关

• 在消费级硬件上跑 744B MoE — Prompt Engineering · 2026-07-20
• 开源 Colibri 让 7440 亿参数 GLM-5.2 跑上 25GB 笔记本 — socialwithaayan · 2026-07-21