Photoroom 用 SkyPilot 每周盘活约 1000 小时闲置推理 GPU
skypilot_org · x · 2026-11-12
Photoroom 工程师 David Briand 撰文介绍如何用 SkyPilot 统一管理 GPU 集群,把原本闲时闲置的推理 GPU 利用起来。
关键事实
- 仅 10 月,研究员每周就在原本闲置的推理 GPU 上跑约 1000 GPU 小时的 eval 与训练任务
- 单个研究员带着 agent 即可调度全部 GPU,无需工程师介入基建:agent 在本地 RTX 3090/RTX 6000 Ada 上做数据准备,在 128 张 H200(InfiniBand 多机)上跑扩散模型训练,再在闲时推理 GPU 上评估 checkpoint 并给产品团队分享 demo
- SkyPilot 把 Slurm(含 H200 InfiniBand 集群)、多个 Kubernetes、仅 SSH 可达的机器以及多家云厂商的按需 GPU 统一到一个入口;GPU 紧张时负载可自动溢出到外部按需算力,无需采购和新配置
- 主训练集群因此保持专用于真正需要的大规模训练
演进脉络:从办公室里散落的工作站(Slack 里全是「node X 空了吗」「能杀掉 node Y 的任务吗」),到 Slurm + 机房,再到云端 H200 集群,最终用 SkyPilot 统一编排。在 GPU 依然稀缺的当下,作者认为把每一小时用起来都值得。
所属事件:Photoroom 借 SkyPilot 每周盘活约千小时闲置 GPU(2 条相关)→
「编程与Agent」频道最新
- Grok Bot 团队月发 11000 个 PR:可靠 Agent 靠代码与检查而非 prompt — sophiamyang · 2026-11-12
- Ora 发布 Ranker 3.0:按 Agent 真实可用性打分,部分网站暴跌 40 分 — yenkel · 2026-11-12
- Netlify 发布 Server:一图讲清 Serverless、常驻服务器与虚拟机区别 — thisiskp_ · 2026-11-12
- Gemini 托管 Agent 支持自托管沙箱,可直接接入 Vercel 环境 — steren · 2026-11-12
- Rayline 推出 ARC 路由:逐轮选模型,成本比全用 Opus 低 90% — testingcatalog · 2026-11-12
- Karpathy 发布 llm-wiki:把文档库喂给 agent 搭个人知识库的新模式 — stochasticchasm · 2026-11-12