AWS 官方教程：Ray Train DLC 免构建镜像跨机微调 Qwen2.5
AWS ML Blog · rss · 2026-10-29
AWS ML Blog 发布分布式训练实践长文，讲解如何用官方预构建的 Ray Train DLC（Deep Learning Container） 在 EKS 上跨实例训练，全程无需自己构建镜像。
核心痛点：PyTorch 集群扩展的瓶颈通常不是模型代码，而是容器——CUDA、NCCL、EFA、aws-ofi-nccl 插件、Ray 版本需要对齐并反复重建。DLC 由 AWS 统一组装、整体测试、发布到 ECR Public 并持续打补丁，含 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、DeepSpeed、flash-attn 等，还内置 allreduceperf 诊断工具。
关键细节：
- 示例用一张 manifest + 一个变量文件，在 2 台 g6.12xlarge（共 8 张 L4 GPU）上以 FSDP 微调 Qwen2.5-1.5B；
- KubeRay operator 管理 head/worker pod，同一镜像跑两种角色；
- 网络栈错配不会报错，只会静默回落 TCP 导致速度骤降——DLC 已内置正确配好的 EFA 栈；
- 额外 Python 包通过 Ray runtimeenv 在提交时安装，不改镜像；镜像支持 vX.Y/vX.Y.Z/digest 三种锁定粒度。
「编程与Agent」频道最新
- 个人智能体协议 PAP 发布新版本：Mediated Sign In 移出核心规范 — yenkel · 2026-10-29
- Personal Agent Protocol 0.3 草案发布,登录认证移出核心规范 — yenkel · 2026-10-29
- 从卧室 Linux 到云主机：一位开发者的 Claude Code 远程环境进化史 — bigaiguy · 2026-10-29
- Kylon demo 三:Agent 从真实应用生成发布视频,按评论改三处 — kimmonismus · 2026-10-29
- 「总有一天，你在不知不觉中写下了最后一个 for 循环」 — tlakomy · 2026-10-29
- Kylon demo 二:Agent 搜 60+ 站点找潜客并搭 CRM 应用 — kimmonismus · 2026-10-29