Mistral 开源 Large 4 权重:约 1T 参数 MoE、100 万上下文
AIFlow_ML · x · 2026-11-01
Mistral 于 10 月 29 日开放了 Mistral Large 4 的权重,即此前预告的「Le Chonk」。要点:
- 架构:MoE,共约 1 万亿参数,128 个路由专家中每 token 激活 4 个,另有 1 个共享专家;每 token 激活约 49B(含 embedding 与输出层约 52B)
- 能力:原生多模态,100 万 token 上下文窗口
- 许可:权重开放可用,但禁止将其作为托管模型转售
- 背景:API 预览版已于 10 月初上线;此次开源的 checkpoint 在此基础上又做了更多强化学习,重点提升编程与防御性网络安全能力
「模型」频道最新
- ChatGPT for Clinicians 查出顶级期刊论文 6 处显著错误 — BraydonDymm · 2026-11-01
- Mistral 模型许可证速读:可商用,付费 API 托管需另行授权 — AIFlow_ML · 2026-11-01
- 疑似的 Anthropic Mythos 级模型现身 Hugging Face — iamthe0ther0ne · 2026-11-01
- 用户未刷新页面保留 ChatGPT 被撤回的新模型选择器界面 — Angaisb_ · 2026-11-01
- 开发者吐槽:被 Opus 5.5 惯坏,现已无法忍受 OpenAI 模型 — marclou · 2026-11-01
- 本地语音转写模型横评:Nemotron 3.5 击败 Fable 居首 — CryptoxPathy · 2026-11-01