SkyRL 推出 IsoExec 统一推理与训练执行
vLLM Blog · rss · 2026-08-21
SkyRL 推出 IsoExec 组件，旨在统一 vLLM 和 Megatron 运行时的数值执行。在 Qwen3.5-35B-A3B 模型上，IsoExec 将 rollout 与 training 之间的对数概率差异降低至 1e-6 以下，仅增加 25% 的开销，从而消除了训练与推理不匹配的问题。
「Infra」频道最新
- DSCO Router 推出多模型统一网关，支持自带账号自动路由 — arthurcolle · 2026-08-24
- 开源方案 RobotSoul：为 Agent 提供上下文重置后的持久身份 — robauto-dot-ai · 2026-08-24
- 将 MoE 模型卸载至 RAM 运行会遭遇极慢的 Prefill — former_farmer · 2026-08-24
- Etched获10亿美元融资，Jane Street领投验证专用芯片 — TheTuringPost · 2026-08-24
- ConvRot 量化方法入驻 llama-cpp，Q6 接近 Q8 精度 — giveen · 2026-08-24
- LifeOS：基于本地模型的语音驱动个人管理工具 — Extension-Bid-639 · 2026-08-24