Motif-3 Beta 以 314B MoE 和 256K 上下文亮相
eliebakouch · x · 2026-07-21
Motif Technologies 放出了 Motif-3 Beta 的预览/中间 checkpoint，这是一款大型 MoE 语言模型，标称 总参数约 314B、每 token 激活约 13B。
- 模型卡明确写明：当前仓库只是中间版本，最终 checkpoint 还会很快发布。
- 截图里给出的核心规格包括：
- 256K 上下文长度（262,144 tokens）
- 384 个专家，每个 token 激活 8 个专家，外加 1 个共享专家
- 多语言、通用文本模型，支持 text generation / transformers / safetensors
- 原帖还提到他们自己的研究设计：每专家激活函数 polynorm、一种变体的 differential attention（作者猜测叫 GDLA），以及修改过的 mHC。
- 作者声称它的表现可对标更大的模型，如 MiniMax M3 和 DeepSeek V4 Pro。
所属事件:韩国Motif发布314B参数MoE模型Motif-3 Beta(4 条相关)→
「模型」频道最新
- php2shell 漏洞实测：仅 2/5 前沿模型能完成利用移植，耗时 3.5-6 小时 — xeophon · 2026-10-27
- Qwen Code 发布 v0.26.2 预览版：新增会话权限规则与实验性共享 Agent Loop — qwen-code-review-bot · 2026-10-27
- GPT-6.1 Terra 事实错误率从 22.3% 降至 4.3%，降幅近 81% — haider1 · 2026-10-27
- GPT-6.1 Terra 发布:早期用户称写作与 computer use 表现亮眼 — BenBajarin · 2026-10-27
- GPT-6.1 Terra 跑分曝光:成本低至 Sol 一半,追不平 Astra — Angaisb_ · 2026-10-27
- Artificial Analysis 更新智能指数 v4.3.2，GPT-6.1 Terra 参与横评 — ArtificialAnlys · 2026-10-27