小团队数月从零到百造出 LLM,称 Meta 开源将迎第二纪元

TimDarcet · x · 2026-10-21

Meta 工程师 TimDarcet 分享与 Parth、Kelvin、Anton 等人在几个月内组建团队、搭起完整流水线,从零训练出一个 LLM,称结果「相当不错」,并认为这是 Meta 开源第二纪元的一个有希望的起点。

后续推文披露了更多细节:该模型为 Muse Glimmer-30B,能在 32GB 显存的单卡上运行——依靠自研量化方案 EvoPress(通过贪心+进化搜索同时最小化显存占用与困惑度误差,权重从 56GB 压到 19GB、精度与 bf16 基本持平)以及 DFlash 投机解码 drafter(分块 16 token)。评测对标 Gemma4-31B 与 Qwen3.6-27B,在 SWE-Bench Pro(51.2)、AIME 2026(94.7)、多语言、隐私(CIMemories)等项目上各有亮点。

所属事件:Meta 工程师数月从零训出 30B 模型,量化加投机解码塞进 32GB 显卡(4 条相关)→

原文链接 →

「公司和人」频道最新

更多「公司和人」频道 AI 资讯 →