小团队数月从零到百造出 LLM,称 Meta 开源将迎第二纪元
TimDarcet · x · 2026-10-21
Meta 工程师 TimDarcet 分享与 Parth、Kelvin、Anton 等人在几个月内组建团队、搭起完整流水线,从零训练出一个 LLM,称结果「相当不错」,并认为这是 Meta 开源第二纪元的一个有希望的起点。
后续推文披露了更多细节:该模型为 Muse Glimmer-30B,能在 32GB 显存的单卡上运行——依靠自研量化方案 EvoPress(通过贪心+进化搜索同时最小化显存占用与困惑度误差,权重从 56GB 压到 19GB、精度与 bf16 基本持平)以及 DFlash 投机解码 drafter(分块 16 token)。评测对标 Gemma4-31B 与 Qwen3.6-27B,在 SWE-Bench Pro(51.2)、AIME 2026(94.7)、多语言、隐私(CIMemories)等项目上各有亮点。
所属事件:Meta 工程师数月从零训出 30B 模型,量化加投机解码塞进 32GB 显卡(4 条相关)→
「公司和人」频道最新
- AI 创作者 Bilawal Sidhu TikTok 粉丝突破 100 万 — bilawalsidhu · 2026-10-21
- 黄仁勋当面对德国总理表态:行业不繁荣就无从监管 — rohanpaul_ai · 2026-10-21
- 黄仁勋:未来每家公司都将拥有两座工厂,一座真实一座数字 — round · 2026-10-21
- 新 AI 实验室扎堆,旧金山最热街区竟不是 SF 而是帕罗奥图 — infoxiao · 2026-10-21
- 前员工称 X 安卓版重写后大幅变好,或成增长推手 — Scobleizer · 2026-10-21
- Walden Robotics CTO 出席 Long Horizon 峰会,与 Rodney Brooks 对谈大行为模型 — adnothing · 2026-10-21