开源「权重传送」技术:RL 采样器暂停仅 0.23 秒,无需 RDMA
gharik · x · 2026-11-03
- humansand 团队发布开源的 weight teleportation 技术，解决大规模 RL 中 trainer 向 sampler 同步权重慢且贵的问题。
- 采样器暂停时间 <0.23 秒，压缩与准备约 3 秒且非阻塞，瓶颈最终落在 GPU 硬件的解压 ASIC 上。
- 核心做法：用 GPU 做大规模并行压缩权重变更量，配合异构解压与补丁流水线等硬件协同优化，速度超过现有集群内方案，可在任意地点部署 sampler。
所属事件:「权重瞬移」开源:跨数据中心 RL 权重同步暂停低于 0.23 秒(10 条相关)→
「Infra」频道最新
- RTX 3090 Windows 解锁张量核心实测：BF16 提速 60%，视频生成快 20% — LavateLasManos666 · 2026-11-03
- Mistral ML4 开源:仅 10 兆瓦算力从头训练,自称网络防御与编码最强开放权重模型 — _AndrewZhao · 2026-11-03
- Databricks 用 Agent 跑研究,训练任务量一年增长 8 倍 — matei_zaharia · 2026-11-03
- 曝 RTX 5080 已停产，零售价逼近 2000 美元 — PAstynome · 2026-11-03
- 推理初创扎堆年入上亿美元?本质是无 GPU 转售算力,并非真生意 — abhiadesai · 2026-11-03
- Stripe Data Pipeline 支持实时同步 Lakebase Postgres，秒级更新 — matei_zaharia · 2026-11-03