Mistral Large 4「Le Chonk」登陆 Hugging Face：1T 参数 MoE、1M 上下文
ariG23498 · x · 2026-10-29
Mistral 发布旗舰模型 Mistral Large 4（昵称 Le Chonk），Hugging Face 发布详解博客。要点：
- 多模态（文本+图像输入）、MoE 架构：总参数约 1T，激活参数 49B，上下文窗口 1M tokens
- 官方提供 FP8 与 NVFP4 两种量化版本，另有 Unsloth 与 llama.cpp 团队制作的 GGUF
- 采用 Mistral Ecosystem Open-Weight License（MIT 衍生，限制 model-as-a-service 用途）
- 架构上结合大量专家池、稀疏注意力与 Pixtral 视觉编码器：语言模型按 token 选少量专家，注意力索引器选择要关注的早期 token 位置，是两种不同形式的稀疏化
- 官方称其在网络安全、编码 agent 与多模态方面尤其强
博客还覆盖了 Transformers、vLLM、llama.cpp 推理支持与 TRL 微调等内容。
所属事件:Mistral 开源万亿参数 Mistral Large 4（Le Chonk）(23 条相关)→
「模型」频道最新
- Mamba 作者致谢 SmolLM3:开放配方与 checkpoint 是开源研究的关键 — srush_nlp · 2026-10-29
- ThursdAI 一周速递：Gemini 4 Carbon、Genie 4 与 Anthropic IPO 传闻 — WolframRvnwlf · 2026-10-29
- 独立评测:DeepSeek V4.1 Flash-1017 安全性接近闭源头部模型 — FangcunAI · 2026-10-29
- 用户抱怨 ChatGPT 订阅捆绑 Dots:希望移除并省 25% — johnlindquist · 2026-10-29
- DeepSeek 新模型啃下硬骨头:自动梳理遗留 Pentaho ETL 并规划迁移 — l4rz · 2026-10-29
- Gemini 4 Argon 吃下 600 万 token MRI 序列，一次生成 26 个 3D 交互标注 — clmt · 2026-10-29