Mistral 开源万亿参数 Le Chonk,TRL 单节点即可 LoRA 后训练

FerdinandMom · x · 2026-10-30

Mistral 发布开源权重模型 Le Chonk,主打 agentic coding 与网络安全两个方向:

同日 Hugging Face 的 TRL 库宣布 day-0 支持在单节点上后训练该 1T 参数模型:在 FP8 权重上训练 LoRA 适配器,8×B300 节点每 GPU 占用 142 GiB,约 8 秒完成一步 32.7k tokens,采用专家并行 + FSDP,训练配方已开源。

所属事件:Mistral 开源 Le Chonk,登顶 FrontierCode 开源编码榜(4 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →