Halo 训练平台发布:SGLang 担纲主力 rollout 引擎支持异步 RL
ying11231 · x · 2026-09-22
推理框架 SGLang 官方祝贺 Whitecircle 的 Halo 训练平台发布,并披露技术细节:SGLang 作为 Halo 的主力 rollout 引擎,运行在隔离的服务环境中,向训练侧返回 token ID、logprobs 和 MoE routing 信息,权重通过 NCCL 同步,生成过程跨服务器与训练重叠执行。
- Halo 不限于监督微调,支持异步 RL 与外部环境训练
- 双方合作将 SGLang 深度集成作为 rollout 基础设施
「Infra」频道最新
- 史上最大规模发布之一却保持高可用,平台团队获业内称赞 — hardimanjames · 2026-09-22
- Agentic AI 拉动 CPU 需求:CPU:GPU 配比没有统一标准 — BenBajarin · 2026-09-22
- Ben Bajarin:智能体时代数据中心 CPU:GPU 配比之争重燃 — BenBajarin · 2026-09-22
- AMD 发布 EPYC Venice 白皮书:SPEC 整数性能 2.24 倍于 Vera — ryanshrout · 2026-09-22
- python-build-standalone 为 CPython 3.12+ 启用全量 LTO 提升运行性能 — charliermarsh · 2026-09-22
- REAP 剪枝 Qwen3.8-Flash-Next MLX 版实测:三个档位怎么选 — MensaProdigy · 2026-09-22