Motif-3-Beta 上线 Hugging Face,314B 参数配 256K 长上下文
_akhaliq · x · 2026-07-21
Motif-3-Beta 已经上架 Hugging Face,公开了几项很硬的规格:
- 总参数约 314B,每个 token 激活约 13B 参数
- 原生 256K 上下文(262,144 tokens)
- 采用 Sparse MoE 路由:384 个 experts,每个 token 激活 8 个,外加 1 个 shared expert
- 定位为 多语言、通用型 模型
所属事件:韩国Motif发布314B参数MoE模型Motif-3 Beta(4 条相关)→
「模型」频道最新
- 医疗评测:Kimi K3 平 GPT-6,但疑难病例开源落后 17 个百分点 — keunwoochoi · 2026-10-27
- 健康专项榜单洗牌:综合第 9 的开源模型跃居 Health Index 第一 — keunwoochoi · 2026-10-27
- DeepSeek 每 token KV 缓存两年降至 890 字节,开源闭源差距之辩 — teortaxesTex · 2026-10-27
- GPT-6 Astra 零微调操控灵巧手:500 试仅 26 次成功,成功率 5.2% — stingning · 2026-10-27
- 爆料推测:fable 5.5 或达 4-5 万亿参数,以规模压制 Opus — haider1 · 2026-10-27
- Kimi K3 开源许可证设门槛:年收超 2000 万美元须另签协议 — alex_verem · 2026-10-27