AWS 实战:用 SkyRL 在 HyperPod 上训 Qwen3-VL,迷宫通过率 43.75%→95%
AWS ML Blog · rss · 2026-09-26
AWS ML Blog 发布多模态 RL 后训练完整教程:在 SageMaker HyperPod 上用开源 RL 框架 SkyRL,以 GRPO 方法对 Qwen3-VL-8B 做视觉迷宫导航训练。
- 结果:从 VisGym SFT checkpoint 出发,GRPO 后训练把固定 64 迷宫评测集的解出率从 43.75% 提升到 95% 以上。
- 架构:3 个 GPU worker 节点(共 6 块 RTX PRO 6000 Blackwell)+ 1 个 CPU head 节点;FSDP 分片的策略模型与 6 个 vLLM rollout 引擎同卡混部,LoRA(rank 32)权重经 FSx for Lustre 共享存储同步。
- 基础设施:HyperPod 提供节点健康监控与自动替换、checkpoint 续训;Ray 集群从 SageMaker Studio 创建,指标自动进入 Grafana 仪表盘。
- 文章含可复现的 Dockerfile(锁定 SkyRL 与 VisGym commit SHA)、前提条件与部署步骤。
「Infra」频道最新
- 三年造 CPU、内存与脉冲网络:一位芯片爱好者的加速器之路 — k7agar · 2026-11-11
- CoreWeave:2027年13万张GPU到期续约可年增收近40亿美元 — zephyr_z9 · 2026-11-11
- 800 美元二手 3090 主机本地跑 DeepSeek 4.1,2 量化仅 2-3 token/s — LankyGuitar6528 · 2026-11-11
- Mark 感叹 George Hotz 当年对 Nvidia 局势的预言成真 — mark_k · 2026-11-11
- 亚马逊 Prime 360 用 AI 实时重建 NBA 比赛 3D 画面,可任意视角回放 — import_jmr · 2026-11-11
- Altman 首度明言:OpenAI 中长期要取代 Nvidia — zephyr_z9 · 2026-11-11