Mistral Large 4 技术报告出炉：1T 总参 MoE，量化后 606GB 可跑 4 张 GB300
_AndrewZhao · x · 2026-11-03
Mistral Large 4（ML4，昵称 Le Chonk）技术报告发布。核心信息：
- 架构：52B 激活、1T 总参数的多模态 MoE 模型，面向推理与长程 agent 任务；
- 关键发现：量化了 KV-cache 压缩对下游 agent 任务的性能损伤，通过「模型手术」+ 稀疏注意力适配来修复；
- 评测：FrontierCode 2.0 得 19.7%，Terminal-Bench 4.0 得 41%，Artificial Analysis Cyber Index 得 50.9%，在代码、网络安全与 held-out agent 基准上具竞争力；
- 部署：稀疏注意力 + 上下文并行 + prefill-decode 分离 + 投机解码；NVFP4 校准量化把权重压到 606GB，评测与 FP8 参考持平，可部署在 4 张 GB300 GPU 上；
- 多教师蒸馏提供高/中/低推理力度三档，让用户权衡 token 消耗与性能。
模型已开放权重，报告由 Mistral 核心研究员 Pierre Stock 确认发布。
所属事件:Mistral Large 4 开源：1T 总参 52B 激活，4 张 GB300 可部署(3 条相关)→
「Infra」频道最新
- 去中心化推理网络 Engy 比 CoreWeave 便宜最高 89% — markjeffrey · 2026-11-03
- Prefrontal 开源 LSA 稀疏注意力：10M token prefill 提速最高 72.4 倍 — jcrwhittington · 2026-11-03
- 实测 DeepSeek-V4.1-Flash 推理吞吐：4 卡 RTX PRO 6000 三套基准横评 — TheZachMueller · 2026-11-03
- 免费 iOS 应用 My Local AI：MLX 端侧跑模型，无需账号保护隐私 — TheOyinbooke · 2026-11-03
- GTX 1650 跑 LLM 基准：GPU 过热致吞吐量暴跌 31% — the-random-guy-2002 · 2026-11-03
- 内存荒漫画疯传：数据中心干渴，玩家大口吞 RAM — BLUECOW009 · 2026-11-03