纯 C 引擎 colibri 走红：从磁盘流式加载专家，本地跑前沿 MoE

JustVugg · github · 2026-09-10

GitHub 热门项目 colibri（27285 星）：一个纯 C、零依赖的微型推理引擎，让你在已有硬件上运行前沿 MoE（混合专家）大模型。

核心思路是「Tiny engine, immense model」——模型的专家权重不从内存常驻，而是从磁盘按需流式加载，从而绕开显存/内存容量的限制。项目以极简实现换取对消费级设备的友好性，是本地部署大模型路线的又一代表。