Janas 与 Colibri 实测:迷你 PC 和 Colab L4 也能跑 80B 级 MoE 模型

Chrono_Tri · reddit · 2026-11-19

r/LocalLLaMA 用户实测两个低调的开源工具 Janas 和 Colibri,让低配设备跑超大 MoE 模型成为可能,并提问为何它们没火。

Janas

Colibri

作者怀疑 100K 级上下文下 vibe coding 不适用,欢迎社区补充优劣与替代品。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →