开发者 monthly 怀念 Mixtral 8x7B:首个开源 MoE 模型的余温

victormustar · x · 2026-11-18

开发者 Victor Mustar(33k 粉丝)发帖称自己每个月都会想起「lil bro」——Mistral 在 2023 年 12 月发布的 Mixtral-8x7B-Instruct-v0.1。作为首个开源的 8x7B 稀疏 MoE 模型(每个 token 激活 2 个专家、约 13B 激活参数),它曾震动开源社区,HF 页面至今累计下载超 2400 万、获 4700+ 赞。帖子借怀旧梗回顾了这段开源模型史上的名场面。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →