nrehiew_ 盘点新模型 RL 训练的独家 infra 技巧:轨迹清洗到 HBM 估算
nrehiew_ · x · 2026-09-23
nrehiew 汇总了这份技术报告中最独特的训练 infra 做法:
- 从轨迹中屏蔽 infra 故障(如工具不可用)
- 虽在多种 harness 上训练,但保证一组内使用同一 harness 以便归一化
- 基于 rollout 长度与时间的在线调度
- 估算轨迹长度以判断 HBM 是否足够存 KV cache
他还对报告中 MOPD 时间线存疑,并困惑为何教师训练要用 MixRL——两者本应正交。
所属事件:小米 MiMo RL 训练细节引热议:疑似 1M 上下文、30 步即大幅提升(15 条相关)→
「Infra」频道最新
- 数据中心的账:支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- 预算级独显服务器租赁指南:OVH、FiberState 及询价技巧 — realmrfakename · 2026-11-12
- AMD EPYC 评测配图神似 ViT 分割模型 logit 伪影,逗乐 AI 研究员 — giffmana · 2026-11-12
- llama-modchip:64GB 内存纯 CPU 跑 284B 模型,零 GPU — pmttyji · 2026-11-12
- Agent Substrate 计算器:预测不同负载下 agent 会话恢复速度 — pjausovec · 2026-11-12
- Dell 扩展 AI Data Platform:AI Agent 的瓶颈是数据上下文而非模型 — DavidLinthicum · 2026-11-12