万亿参数零RL的涌现现象
inclusionAI · hf · 2026-07-16
这是一篇把 zero RL 扩展到 1T 参数 的研究，重点不是单纯刷分，而是观察大规模强化学习下的训练动态和涌现行为。
作者指出，直接放大训练会遇到可读性差、重复 token 多、推理深度不自适应等问题，因此加入了一套稳定高效的训练管线，包括：
- clipped importance sampling
- training-inference ratio correction
- mixed-precision control
论文给出的三个核心结论是：
- 扩到 1T 参数显著提升样本效率和性能上限
- 训练过程会先经历“发现阶段”，再进入“打磨阶段”
- 模型会自发出现更高级的认知行为，如拟人化、结构化输出、自我验证、并行推理、context anxiety 等
在 7 个数学基准上，Ring-2.5-1T-Zero 表现具有竞争力。作者还提出了一个从 comprehensibility / reproducibility / efficiency 三个维度评价 CoT 质量的结构化框架。
所属事件:万亿参数Zero RL模型Ring-Zero发布(4 条相关)→
「研究」频道最新
- MissionReport 基准：540 份政府任务报告仅 3 份全达标 — Exp_Mark · 2026-10-27
- Finch 1 发布：用 50+ 种传感器影像训练的通用地理空间基础模型 — Scobleizer · 2026-10-27
- Skyfall AI 推出工程世界模型 SKY-001:文本转 CAD 构建,3.9 秒 vs GPT-6 的 199 秒 — rohanpaul_ai · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27
- 研究者谈评测集透明度:组合性评测仍存数据污染隐患 — najoungkim · 2026-10-27
- 可解释性研究该分清形式与估计器：均值差转向不如直接梯度下降 — johnhewtt · 2026-10-27