SkyRL 助 GLM-5.3-Flash 实现 100 万 token 上下文训练

Lila Sciences 与 Anyscale 的 SkyRL 团队合作，为 GLM-5.3-Flash 实现了 100 万 token 的上下文训练支持，较开箱即用的 Megatron 基线提升 64 倍，同时训练步速提高 2.1 倍。这一成果将强化学习训练可处理的序列长度大幅扩展，显著提升了长上下文训练的效率与规模。

2026-10-23 ~ 2026-10-23 · 3 条相关

• SkyRL 联手 Lila Sciences 把 GLM 训练上下文拉到 100 万 token，快 2.1 倍 — AndrewLBeam · 2026-10-23
• GLM-5.3-Flash 在 SkyRL 训练上下文拉到 100 万 token，步速提升 2.1 倍 — AndrewLBeam · 2026-10-23
• GLM-5.3-Flash 实现 1M token 上下文训练，较基线提升 64 倍 — AndrewLBeam · 2026-10-23