Motif-3-Beta 上线 Hugging Face,314B 参数配 256K 长上下文
_akhaliq · x · 2026-07-21
Motif-3-Beta 已经上架 Hugging Face,公开了几项很硬的规格:
- 总参数约 314B,每个 token 激活约 13B 参数
- 原生 256K 上下文(262,144 tokens)
- 采用 Sparse MoE 路由:384 个 experts,每个 token 激活 8 个,外加 1 个 shared expert
- 定位为 多语言、通用型 模型
所属事件:韩国Motif发布314B参数MoE模型Motif-3 Beta(4 条相关)→
「模型」频道最新
- Fern 团队提出「上下文即智能」:预测精度随上下文增至 1000 万 token 持续提升 — bneyshabur · 2026-10-26
- Mirendil 发布首个自研预训练模型 Fern,上下文最长 1000 万 token — bneyshabur · 2026-10-26
- 网友发现 Claude 疑似上线专用翻译界面 — BLCNYY · 2026-10-26
- 用户实测 GrokBot:订机票、网购全被拦,几乎办不成事 — lucasmeijer · 2026-10-26
- 售卖机基准新观察:Sol 5.6 被指最激进、最常违约 — xuanalogue · 2026-10-26
- 爆料称 Fable 5.5 每周将发,博主泼冷水:本月无前沿新模型 — patience_cave · 2026-10-26