vLLM 实现 Muse Spark Open Day-0 LoRA RL，AIME 从 0.56 提至 0.85
vllm_project · x · 2026-10-16
vLLM 官方宣布为 Muse Spark Open 提供 Day-0 LoRA 强化学习支持：用 vLLM 做 rollout、verl FSDP2 做训练。
- 架构：vLLM 服务 NVFP4 基座 + LoRA；训练器使用同一权重的 BF16 反量化版本；R3 重放 rollout 路由，仅更新并回传 adapter
- 实测：DAPO-Math-17K 上跑 GRPO，16 块 GB300 GPU 训练 150 步，AIME-2024 mean@8 从 0.56 提升到 0.85，train-rollout k3 KL 保持在 2×10⁻⁴ 左右
- Titan RL 也采用 vLLM 作为 rollout 引擎提供 Day-0 RL 支持
- 服务栈层面还有 NVIDIA FlashInfer 优化的融合 kernel、AMD MI355X 的 FP8/MXFP4 支持等跨硬件工作
「Infra」频道最新
- Temporal Serverless Workers 登陆 Cloud Run:按任务队列自动伸缩、可缩至零 — rseroter · 2026-10-16
- LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线 — ying11231 · 2026-10-16
- Semtech 分析师日幻灯片讲透信号完整性：衰减、带宽、非线性、噪声四大损伤 — BenBajarin · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 伯克利学者：芯片供应链高度集中，硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16
- Khala 研报对比 peaq、THOR、BitRobot、Axis 四家机器人数据代币化项目 — 0xSammy · 2026-10-16