Halo 训练平台发布:SGLang 担纲主力 rollout 引擎支持异步 RL

ying11231 · x · 2026-09-22

推理框架 SGLang 官方祝贺 Whitecircle 的 Halo 训练平台发布,并披露技术细节:SGLang 作为 Halo 的主力 rollout 引擎,运行在隔离的服务环境中,向训练侧返回 token ID、logprobs 和 MoE routing 信息,权重通过 NCCL 同步,生成过程跨服务器与训练重叠执行。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →