humans& 发布 GPU 加速权重传送:无损压缩实现 RL 权重即时同步
niloofar_mire · x · 2026-11-03
humans& 团队(Ziang Li 等)发布长文,提出「GPU-accelerated Weight Teleportation」——面向大规模 RL 训练的无损 GPU 权重同步方案。要点:
- 问题:RL 中 trainer 与 sampler 权重需尽量一致,同步 TB 级模型权重要么依赖集群内高速网络,要么忍受延迟并阻塞 sampler。
- 方案:基于 delta weight sync 思路,协同设计 Blackwell 原生压缩/解压管线:大规模并行 GPU 压缩(带分布式所有权与容错)、精心的双重压缩算法配合异构 CPU-GPU 解压、利用 Blackwell 解压引擎(DE)与硬件原生解压算法。
- 效果:大多数场景下可达到优于集群内的同步速度,且不要求 trainer 与 sampler 同集群部署。
- 覆盖内容:低精度 RL 处理、DE 与 SM 重叠执行、容错与从已训练 checkpoint 恢复、推理部署等权衡。
方案已开源,目标是加速研究迭代。
所属事件:「权重瞬移」开源:跨数据中心 RL 权重同步暂停低于 0.23 秒(10 条相关)→
「Infra」频道最新
- Mistral ML4 开源:仅 10 兆瓦算力从头训练,自称网络防御与编码最强开放权重模型 — _AndrewZhao · 2026-11-03
- Databricks 用 Agent 跑研究,训练任务量一年增长 8 倍 — matei_zaharia · 2026-11-03
- 曝 RTX 5080 已停产，零售价逼近 2000 美元 — PAstynome · 2026-11-03
- 推理初创扎堆年入上亿美元?本质是无 GPU 转售算力,并非真生意 — abhiadesai · 2026-11-03
- Stripe Data Pipeline 支持实时同步 Lakebase Postgres，秒级更新 — matei_zaharia · 2026-11-03
- Anthropic IPO 前披露 9000 亿美元级支出承诺 — zomtorg · 2026-11-03