权重瞬移技术将 RL 采样器停顿压到 0.23 秒以下
gharik · x · 2026-11-03
研究者 humansand 分享了名为「weight teleportation」的大规模 RL 权重同步方案，解决 trainer 到 sampler 权重更新慢且贵的老问题。
- 性能：采样器停顿时间低于 0.23 秒，约 3 秒的非阻塞压缩+准备，瓶颈最终落到 GPU 硬件解压 ASIC 上；NVIDIA nvCOMP 与 Blackwell 解压引擎参与了加速。
- 原理：用 GPU 对模型权重增量做大规模并行压缩，并构建异构解压与补丁流水线，与硬件原生特性协同设计，多层优化与重叠执行。
- 意义：同步速度快到接近互联网传输水平，采样器可以部署在任何地方（作者甚至调侃"太空也行"），实现已向社区开源分享。
所属事件:「权重瞬移」开源:跨数据中心 RL 权重同步暂停低于 0.23 秒(10 条相关)→
「Infra」频道最新
- RTX 3090 Windows 解锁张量核心实测：BF16 提速 60%，视频生成快 20% — LavateLasManos666 · 2026-11-03
- Mistral ML4 开源:仅 10 兆瓦算力从头训练,自称网络防御与编码最强开放权重模型 — _AndrewZhao · 2026-11-03
- Databricks 用 Agent 跑研究,训练任务量一年增长 8 倍 — matei_zaharia · 2026-11-03
- 曝 RTX 5080 已停产，零售价逼近 2000 美元 — PAstynome · 2026-11-03
- 推理初创扎堆年入上亿美元?本质是无 GPU 转售算力,并非真生意 — abhiadesai · 2026-11-03
- Stripe Data Pipeline 支持实时同步 Lakebase Postgres，秒级更新 — matei_zaharia · 2026-11-03