开发者用纯 C 引擎在 25GB RAM 笔记本运行 GLM-5.2 744B
Just_Vugg_PolyMCP · reddit · 2026-07-07
一位开发者构建了名为colibrì的纯C语言推理引擎，将GLM-5.2（744B MoE模型）的密集层保留在约10GB内存中，其余专家模块按需从磁盘流式加载，实现了在仅25GB RAM笔记本电脑上运行该前沿开源模型。速度约为0.05-0.1 token/s，虽慢但验证了技术可行性，作者表示项目仍处早期阶段，欢迎拥有更好硬件的开发者参与测试。