Halo 训练平台发布：SGLang 担纲主力 rollout 引擎支持异步 RL
ying11231 · x · 2026-09-22
推理框架 SGLang 官方祝贺 Whitecircle 的 Halo 训练平台发布，并披露技术细节：SGLang 作为 Halo 的主力 rollout 引擎，运行在隔离的服务环境中，向训练侧返回 token ID、logprobs 和 MoE routing 信息，权重通过 NCCL 同步，生成过程跨服务器与训练重叠执行。
- Halo 不限于监督微调，支持异步 RL 与外部环境训练
- 双方合作将 SGLang 深度集成作为 rollout 基础设施
「Infra」频道最新
- 独立开发者用 Rust 写整套 AI OS：无头运行，跑 Qwen3 27b 比 Ubuntu 快 — W61k3r · 2026-11-12
- OpenRouter 新路由算法见效:GLM 5.3 Flash 首字延迟降 40%、单价降 17% — AccBalanced · 2026-11-12
- AMD 与 Dell 拿下 182 项世界纪录，EPYC 性能提升 94% — AccBalanced · 2026-11-12
- KubeCon 主题演讲：计算系统正从人类速度转向 Agent 速度 — HowDevelop · 2026-11-12
- 曝 Meta 基础设施负责人 Santosh Janardhan 将于 2027 年初离职 — dinabass · 2026-11-12
- 华为开源量化工具 MACaQ：KL 散度比 Unsloth 低 23% — acluk90 · 2026-11-12