Mistral Large 4 开放权重：1T 参数 MoE，编码榜领先开源阵营
RobertTLange · x · 2026-11-03
Mistral 发布旗舰模型 Mistral Large 4（代号 Le Chonk） 并开放权重。Robert Lange 总结其技术要点：
- 架构：1T 参数 MoE（激活 52B），原生多模态，1M 上下文；72 层 MLA + DeepSeek 式稀疏注意力，indexer 每查询选 2,048 个 key
- 训练中期手术：SWA+CLA 混合在同等困惑度下损害 SWE-bench 成绩，回退到全注意力，保留 YOCO；学习式 RoPE 频率 + SSMax；每 4 层一个 NoPE；KV 缓存 70 KiB/token
- 专家配置：128+1 专家、top-4、softmax 路由；内置 3 层 DSpark 投射解码器
- 成绩：FrontierCode 2.0 达 19.7%、Terminal-Bench 4 达 41%，领先开源同级
- 部署：NVFP4 量化后 606 GB，可在 4× GB300 上服务
官方博客强调该模型面向智能体编码与防御性网络安全，提供三种推理模式平衡成本与性能，主打欧洲主权 AI 与可自托管部署。
所属事件:Mistral Large 4 技术报告发布：10 兆瓦训出 1T 参数开源 MoE(11 条相关)→
「模型」频道最新
- DeepSeek 开源 DeepInfer 推理引擎:单卡每秒输出超 2.6 万 token — bycloud · 2026-11-04
- DeepMind 用 RL 训练 Gemini 做精神科问诊，鉴别诊断正确率翻倍 — SRSchmidgall · 2026-11-04
- Particle-1 令牌省 45%，后训练 DeepSeek V4.1 Flash 降成本 — heyneighbor · 2026-11-04
- Decider 流量三周达 Jev 的十分之一，OpenRouter 榜单存疑 — bo_wangbo · 2026-11-03
- 开发者实测:astra 与 sol 在开放式任务上仍逊于 Opus 5.5 — haider1 · 2026-11-03
- 开源模型集体超越11个月前的"前沿"水平，DeepSeek/GLM/Qwen 全面开花 — Hesamation · 2026-11-03