美团开源 LongCat-Flash-Lite-Sparse 大模型

美团技术团队在 Hugging Face 上发布了全新的开源模型 LongCat-Flash-Lite-Sparse。该模型采用超稀疏 MoE(混合专家)架构,总参数量达 69B 但每次推理仅激活 3B 参数。此外,它将约 30B 的 n-gram 查找表卸载至内存(RAM),使得在 24GB 显存下即可运行 256k 的超长上下文。

2026-07-31 ~ 2026-08-01 · 2 条相关