开源 RL 大规模训练细节：FP4 权重加 8 分钟长 rollout 仍稳定
simonguozirui · x · 2026-11-06
评论者 ar0cket1 分析 Inkling 发布中的 stable reinforce（SC）训练方法：
- SC 能很好地处理策略滞后（stale policy），即使 rollout 平均时长达 8 分钟、尾部样本更长也稳定
- 训练与采样均使用 FP4 权重，KV cache 同样采用 FP4
- 作者感叹 SC 此前竟无人尝试，事后看似显而易见
「Infra」频道最新
- Zyphra 发布 ZYFA：AMD MI355X 上 FP8 注意力吞吐达 AITER 1.16-1.76 倍 — bclavie · 2026-11-06
- Akamai 签约账本破 140 亿美元，Anthropic 一笔 116 亿撑起大半 — pdamodaran · 2026-11-06
- Teknium 质疑 METR「无瓶颈」结论：融资与算力成本明明在恶化 — Teknium · 2026-11-06
- 复旦 D3D 论文:解耦扩散草稿模型实现异步投机解码加速 — Fudan-University · 2026-11-06
- ThursdAI 播客：美国中期选举后，AI 彻底完蛋了吗？ — altryne · 2026-11-06
- sshhole 漏洞分析：或危及上亿台 OpenWRT 路由，MUSL 系统首当其冲 — esrtweet · 2026-11-06