TRL v1.17 发布:支持 Mistral Large 4,单节点 1T 参数跑 LoRA 微调
SergioPaniego · x · 2026-10-30
TRL v1.17 发布,主要更新:支持 Mistral Large 4(官方称其 Le Chonk 拥有 1T 参数);AsyncGRPO 默认启用 score centering;线性注意力模型的树注意力支持;AsyncGRPOTrainer 更快的 rollout 与 packing;跨 tokenizer 蒸馏;AMD GPU 支持。官方称现在可在单个 B300 节点上用 TRL 为 1T 参数模型训练小型 LoRA 适配器。
「模型」频道最新
- Gemini 4 Argon 登顶 RLE-Bench 4 项机器人任务,总分 72.4 逼近 GPT-6 Astra — daibond_alpha · 2026-10-30
- 传 GPT-6.5 Bel 预训练超 10 万亿参数,未经证实 — VraserX · 2026-10-30
- 「Tibo 28 天连发日历」更新到第 25 天,逐日追踪 OpenAI 密集更新 — burny_tech · 2026-10-30
- Reddit 用户实测:Claude 用量上限恢复正常,未被减半 — pjjiveturkey · 2026-10-30
- Reddit 用户实测:Claude Opus 5.5 做游戏表现出色 — InternationalGap3698 · 2026-10-30
- Claude 用户确认:用量上限翻倍恢复,回到原水平 — jeppa35 · 2026-10-30