NVIDIA 发布 Mistral Large 4 部署配方:NIM 容器支持 Blackwell FP8/NVFP4
NVIDIAAI · x · 2026-11-06
NVIDIA 宣布可通过可下载的 NVIDIA NIM 部署 Mistral Large 4,提供 NVIDIA Blackwell(FP8 与 NVFP4)和 Vera Rubin(FP8)的部署配方。文档显示 Mistral Large 4 是视觉-语言 MoE 模型,支持文本与图像输入、工具调用及约 104.8 万 token 的上下文窗口,采用 vLLM Model-Free NIM 实验方案,启动时从远端拉取模型资产;最低要求 Ubuntu 22.04、CUDA 12.9、驱动 580+、Docker 24+。
「Infra」频道最新
- Steam 数据:仅 2% PC 玩家持有 RTX 5080/5090 — ssh4net · 2026-11-06
- SOX 单日暴跌 12.2%,创 2020 年 3 月以来最差表现 — tengyanAI · 2026-11-06
- Replit 自建内核沙箱,审计 6211 个 CVE 躲掉 96% — amasad · 2026-11-06
- Eigen AI 创始人谈推理经济学:更便宜的 token 会扩大整个市场 — songhan_mit · 2026-11-06
- DFlash 2 并行草拟破解投机解码瓶颈:多接受 21% token 仅增 1.3% 延迟 — songhan_mit · 2026-11-06
- 从预训练到后训练全程 4-bit,团队称 68 小时完成预训练 — teortaxesTex · 2026-11-06