PuzzleMoE:稀疏专家合并压缩大 MoE 模型

yogthos · reddit · 2026-07-07

PuzzleMoE 提出通过稀疏专家合并(sparse expert merging)与位打包推理(bit-packed inference)高效压缩大型混合专家(MoE)模型的方法,并发布项目主页。