美团开源万亿参数模型LongCat-2.0

智东西 · wechat · 2026-07-06

美团开源万亿参数大模型LongCat-2.0,总参数1.6万亿、平均激活约480亿,是业界首个在五万卡国产算力集群上完成全流程训练与推理的万亿参数模型,并开放针对国产芯片优化的推理代码。在SWE-benchPro得分59.5,超过GPT-5.5(58.6)、Claude Opus 4.6(57.3);采用MoE架构,原生支持100万token上下文,引入LongCat稀疏注意力(LSA)将平方级开销优化为线性级,并加入N-gram Embedding参数扩展与多教师在线蒸馏。